<AGI 시대 북콘서트> 참관기

<AGI 시대 북콘서트>

 

어제(250207) <AGI 시대 북콘서트>에 다녀왔다.

이런 행사가 있는 줄을 당일에서야 알고 신청하려 했더니 이미 마감되어 버려서, 주관 회사 대표에게 부탁하여 겨우 참석하였다. 
홍대입구에 있는 한빛미디어 빌딩에서 진행된 행사가, 저녁 7시에 시작하여 9시40분이 될 때까지 열띤 토론이 끝날 기미를 보이지 않고, 손을 들어도 발언 기회도 주지 않고, 배도 고프고 차 시간도 걱정되어 끝나는 걸 보지 못하고 먼저 나왔다.

이 행사에서 많은 것을 보고 듣고 느꼈다.
인공지능에 대한 기초상식조차 부족한 내겐 모든 말이 신선하게 닥쳐왔다.
거기서 들은 이야기에 내 생각을 섞어 정리해본다.

- 우선 저자인 패널들의 식견과 발표력이 탁월했다.

한빛미디어 박태웅 의장, 테크프론티어 한상기 대표, 네이버 인공지능선터 하정우 센터장, 그리고 사회자 슬로우뉴스 이정환 대표..
이들은 이미 각 분야에서 유명세를 떨치고 있는 사람들이다. 만나보니 그 명성은 역시 명불허전이었다. 다들 해당 분야의 깊은 지식은 물론, 인문사회학적 철학의 뿌리가 확고히 정립되어 있다는 느낌을 받았다.
역시 한 분야의 고수나 대가가 되기 위해서는 그저 기술이나 지식의 두께만으로는 어림도 없다는 것을 다시 확인했다.

- 세련된 진행이 인상적이었다.

이런 행사를 잘 다녀보지 않아 분위기가 내겐 좀 생소하였다. 
PPT와 같은 툴은 쓰지 않고, 사회자가 자신의 노트북을 조작하며, 현장에서 바로 QR코드를 통해 설문조사를 하고 즉시 그 결과를 그래프 보여주면서, 상호 교감 방식으로 진행했다.
그리고 대담을 이어가는 사회자의 태도도 매우 좋았다. 사전에 철저히 준비한 듯하기도 하고 적흥적으로 대응하는 것처럼 보이는 질문을 다양하게 구사하며, 청중들이 듣고 싶은 대화를 유연하게 이끌어내는 모습이 좋았다.

- 인공지능의 미래를 보는 관점은 대체로 둘로 나뉜다.

'두머(doomer, 파멸론자)'와 '부머(boomer, 개발론자)'이다.
(현장에서는 파멸론자, 효과적 이타주의자, 효과적 가속주의자 세 분류로 나눠 설문했었다).

발표자들 중에 자신이 두머에 가깝다고 하는 분이 있어 처음에는 의아하게 생각했었다.
나는 거기 참석할 때만 해도, 인공지능의 개발 추세는 피할 수 없으니 어차피 그렇다면 적극적인 태도를 가지는 것이 바람직하다는 생각이었다.
그런데, 이야기를 듣다 보니, 점차 불안감이 커지면서 나 자신이 '두머'에 수렴해간다는 것을 느꼈다.

-  AGI(Artificial General Intelligence)는 '인공일반지능'으로 번역하지만, 박태웅 의장은 '인공종합지능'으로 부르는 게 더 적절하다고 한다.

AGI는 대체로 인간이 하는 지적 활동의 모든 분야에 걸쳐 종합적으로 인간의 역량을 넘어선 인공지능을 가리킨다.
물론 의식, 감정, 욕망은 배제되겠지만, 이런 놀라운 수준의 AGI는 빠르면 지금으로부터 5년 내지 10년 내에 현실에서 보게 될 것이라고 예측하고 있다.

- 인간의 지식은 휘발성이 강하지만, 인공지능의 지식은 가공스럽다.

인간의 지적 능력 혹은 지혜는 아주 긴 세월에 걸쳐 많은 노력을 쏟아 조금씩 축적되고, 그렇게 축적된 지식이나 지혜는 한 인간의 머리 속에 머물러 있다가, 그의 죽음과 함께 완전히 휘발되어 사라져버리고 만다.

그런데, 인공지능은 어마어마한 방대한 지식을 단시간 내에 습득 축적할 수 있고, 언제라도 실시간으로 온 세상에 공유할 수 있으며, 한번 습득된 것은 절대 사라지지 않는다.

그래서 가까운 시일 내 인공지능은 어마어마한 정보, 지식, 역량을 갖춘 괴물이 될 것이고, 인간은 그들에 더욱 의존하게 되어 가속적으로 멍청해질 것이다.

엄청난 지적능력을 가진 기계와 공존하여야 하는 멍청한 인간의 미래가 그림으로 그려진다.

- 한상기 대표가 헤겔의 '주인과 노예의 변증법'을 언급했다.

노예의 주인은 노예를 부리지만, 언젠가는 노예가 없으면 주인은 아무것도 할 수 없는 상태가 된다. 그때가 되면, 노예는 주인의 주인이 되고, 주인은 노예의 노예가 되게 된다. 이처럼 주권과 구속이 전도되는 상황이 '주인과 노예의 변증법'이다.

AGI시대가 오면, 인간은 많은 영역에서 데이터, 지식 및 판단이나 결정을 AGI에 의존하게 될 것이다.
그리고 그 판단에 권위를 부여하게 되고, 자연스레 권력의 중심이 AGI에게로 넘어가게 된다.
그러면 AGI는 인간의 노예가 아니라 인간의 주인으로서 군림하게 될 것임은 자명하다.

- AGI의 진정한 위험은 그 창의적 능력일 것이다.

AGI의 엄청난 지적 능력으로 범죄자들이 살상화학무기를 개발하면 어떻게 될까?

실제로 작년 노벨화학상은 화학자가 아니라 인공지능 개발자인 하사비스(이세돌을 이긴 알파고 개발자)가 받았다. 인공지능을 이용한 신약개발의 새 경지를 연 그의 공로 덕분이다.
신약을 개발할 수 있다면, 생화학 무기인들 못할 이유가 없지 않겠나.

- 뿐만 아니라 인공지능은 우리의 지식 체계를 지배할 가능성도 있다.

지금도 구글 등에서 검색한 지식의 십수%는 인공지능이 생성한 지식이라고 한다.
인공지능의 활동은 가속적으로 활발해질 것이기에, 언젠가 우리가 찾는 대부분의 지식이 인공지능이 생산한 것으로 채워질 지도 모른다.

지금이야 우리는 인공지능의 응답을 다 믿지 않는다. 종종 거짓말을 한다는 것을 알고 있기 때문이다.

하지만 머잖아 우리는 인공지능의 응답을 맹목적으로 믿고, 권위마저 부여할 가능성이 높다.
그 때가 되면 인간의 지식은 신뢰와 자신감을 상실하고, 인공지능의 지식만을 그저 존중하는 그런 장면이 그려진다.

마치 자율 운전 시대가 왔을 때,
자동차의 운전 기능만이 신뢰를 받게 되고 인간의 운전은 불법으로 전락할 수도 있는 것처럼.

- 이런 AGI의 개발 방향을 누가 어떻게 통제할 것인가?

토론에서도 얼라인먼트에 대해 많은 말이 나왔다.
AGI는 인간이 추구하는 가치에 일치하여야 한다.
인간이 원하는 일을 해야 하지만, 동시에 원하지 않는 일은 하지 않아야 한다.
그런데 여기서 '인간'은 과연 누구를 상정하는가. 어느 나라, 어느 기업, 어느 분야인지 특정하기 어렵다.

AI기업들이 나름의 윤리적 기준을 갖추고 있거나 준비하고 있고, 국가적으로도 그런 움직임이 있다고 한다.
하지만 기술의 발전 속도를 인간의 인식이 따라 잡을 수 없다는 것은 이미 역사가 많은 것을 말해주고 있다.

이 점이 내가 느낀 불안의 진정한 근원이다.

- 이제 공부를 제대로 좀 해봐야겠다.

책을 두 권 사 들고 왔다. 찬찬히 읽어보리라.

원하든 원하지 않든 우리는 AGI의 시대를 살아야 한다.
그 시대가 설사 파멸의 시대라 하더라도..
그 원인은 알면 막연한 불안은 줄이고 나름 온갖 발버둥은 다 쳐볼 수 있지 않을까 싶다.

 

**
'소버린 AI'(sovereign AI)라는 말이 나왔는데,
형장에서는 그게 무슨 말인지 알아듣지 못했다.

오늘 찾아보니 이런 뜻이다.

"소버린 AI는 국가나 기업이 자체 인프라와 데이터를 활용하여 독립적인 인공지능 역량을 구축하는 전략을 의미한다.
이 방법은 특정 국가나 대형 기업들의 영향력에서 자유롭게 기술을 발전시키고, 디지털 시대에 AI 주권을 확립할 수 있는 핵심적인 접근 방식으로 각권에서 주목받고 있다.
이를 통해 외부 기술 의존도를 줄이고 자국 내 데이터의 보안과 활용을 극대화할 수 있다.
소버린 AI를 구축하기 위해서는 고성능 그래픽 처리 장치를 보유한 데이터 센터와 이를 뒷받침하는 전력망, 데이터 수급, 실제 서비스에 적용하는 과정까지 갖춰야 한다." _ 네이버 지식백과