[허성원 변리사 칼럼]#196 샘 올트먼의 '온화한 특이점(The Gentle Singularity)'

샘 올트먼의 '온화한 특이점(The Gentle Singularity)'

 

‘특이점(Singularity)’은 기계 특히 인공지능이 인간의 지능을 초월하는 순간을 가리키는 말이다. 그 시점이 언제 도래할 것인가를 두고 많은 미래학자들은 대체로 2045년 전후로 예측하여 왔다. 그런데 최근에 등장한 다양한 인공지능 모델들의 놀라운 기능을 보면 그 때가 생각보다 훨씬 가까이 와 있다는 느낌이 든다. 인공지능의 돌풍을 최초로 일으킨 챗GPT를 만든 오픈AI사의 CEO 샘 올트먼도 같은 생각인 듯하다. 샘 올트먼은 그의 최근 블로그 글 '온화한 특이점'에서, 인공지능의 경이로움이 일상화되고 삶의 기본이 된 지금이 사실상 이미 특이점에 온 것이라고 말한다.

그는 특이점에 대해 '온화한(gentle)'이라는 수식어를 붙였다. AI가 인류에게 과격한 충격이나 고통을 주지 않으면서 삶에 부드럽게 서서히 스며들고 있다는 의미일 것이다. 인공지능 특히 초지능(superintelligence)의 밝은 미래 비전을 제시하고, 과학 발전 및 생산성 나아가 삶의 질이 현저히 향상될 것으로 예측하며, 그런 변화가 급격하더라도 사람들은 거의 불편없이 완만하게 적응하게 될 것으로 보고 있다. 그리고 아직 남은 해결 과제로서 AI의 윤리 문제와 혜택의 분배 문제를 언급하였다. 그의 글 중 중요 부분을 요약하고 일부 의역하여 옮겨왔다.

**
우리는 이미 되돌릴 수 없는 선을 넘었고, 기술 변화는 급격히 가속될 것이다. 인류는 디지털 초지능의 문턱에 다가섰으며, 적어도 지금까지는 우리가 우려했던 만큼 낯설거나 괴이하지는 않다. 우리가 만든 시스템은 여러 면에서 인간보다 더 똑똑하며, 사람들의 역량을 현저히 증폭시킬 수 있게 되었고, 과학적 진보와 생산성 향상를 도와 삶의 질을 높여 줄 것이다.

챗GPT는 이미 인류 역사상 존재했던 그 어떤 인간보다도 강력하여, 매일 수억 명의 사람들이 이에 의지하여 점점 더 중요한 업무에 사용하고 있다. 2025년은 실제로 생각하고 일할 수 있는 AI 에이전트들이 등장한 해였고, 2026년에는 새로운 아이디어를 스스로 발견하는 시스템이 나올 가능성이 크며, 2027년에는 실제 현실 세계에서 작업을 할 수 있는 로봇이 등장할 것 같다.

2030년대에는 '지능'과 '에너지'가 대단히 풍부해질 것이다. 즉 아이디어를 창출하는 능력과 그것을 실제로 실행할 수 있는 능력이 모두 강력해지는 것이다. 지능과 에너지 이 두 요소는 오랫동안 인류 발전을 가로막던 가장 큰 제약이었지만, 이제는 그 모두가 풍부해지게 된다는 말이다. 그것을 잘 관리할 수 있는 능력만 있다면, 이론적으로 우리는 그 외의 사실상 모든 것도 가질 수 있다.

우리는 이미 놀라운 디지털 지능과 함께 살고 있고, 초기에 다소 충격이 있었지만 이제는 대체로 꽤 익숙해졌다. AI가 아름다운 문장을 써주는 것에 놀라다가 금세 ‘그럼 소설은 언제 쓰지?’ 하고 묻는다. 생명을 살리는 진단을 해주는 것에 놀라다가, ‘그럼 치료제는 언제 개발하지?’ 하고 묻는다. 작은 프로그램을 짜는 것에 감탄하다가, ‘그럼 회사 하나를 만드는 건 언제?’ 하고 기대한다. 이것이 바로 특이점이다. 경이로움은 일상이 되고, 곧 기본이 된다.

AI 덕분에 과학 분야의 생산성이 크게 향상되었으며, 특히 중요한 점은 AI를 활용해 ‘더 빠른 AI 연구’를 할 수 있게 되었다는 것이다. 이제부터는 우리가 이미 만들어낸 도구들이 새로운 과학적 통찰을 찾고, 더 뛰어난 AI를 만드는 데 도움을 줄 것이다. 물론 AI가 스스로 코드를 완전히 수정하는 ‘자율적 자기 진화’ 단계까지는 아닐지라도, 그 초기 단계에 와 있다. 곧 로봇이 로봇을 만들고, 데이터센터가 다른 데이터센터를 만드는 시대가 멀지 않다.

기술이 가속적으로 발전하고 사람들은 그 변화에 빠르게 적응할 것이다. 물론 많은 직업군이 사라지는 어려움도 있겠지만, 한편으로는 세상이 빠르게 풍요로워진다. 산업혁명 이후 직업의 변화가 그러했듯이 우리는 늘 새로운 일을 찾아내고, 새로운 욕망을 만들며, 새로운 도구에도 금세 익숙해질 것이다. 천 년 전에 자급자족하며 살던 농부가 오늘날 우리를 보았다면, “가짜 일만 하고 놀면서 사치나 즐기는구나”라고 생각할 것이다. 우리도 천 년 후의 일을 상상하며 그런 느낌을 가져보았으면 한다.

앞으로 상상을 초월할 정도로 새로운 경이로운 일들이 쏟아져 나올 것이다. 여전히 지금의 모습으로 사는 사람도 있겠지만, 적잖은 사람들이 ‘AI에 접속된 삶'을 살게 된다. 모든 변화를 이해하기는 쉽지 않겠지만, 실제의 삶은 그 적응을 충분히 감당해 낼 수 있을 것이다. 특이점은 비교적 점진적으로 일어나고, 그것이 융합되는 과정도 느리게 진행될 것이다. 기술 발전은 지수적인 곡선을 따라 가파르게 상승하겠지만, 뒤를 돌아보면 평탄해 보이는, 그러나 실제로는 하나의 부드러운 흐름이 된다. 2020년 당시에 누가 '2025년쯤 AGI 비슷한 게 나올 거야'라고 말했다면 미친 소리처럼 들렸겠지만, 지난 5년을 돌아보면 그 말이 터무니없다고 할 수 없는 것과 같다.

이처럼 거대한 가능성에 대한 기대는 그에 상응하는 심각한 도전들을 수반한다. 첫째, 기술적 및 사회적 측면에서 AI 안전 문제를 해결해야 한다. ‘윤리 및 가치의 정렬 문제(alignment problem)’는 우리가 정말로 원하는 방향으로 AI가 배우고 행동하도록 만들어야 하며, 그 윤리와 가치를 AI가 언제까지나 확실히 지킬 수 있도록 보장하여야 한다. 둘째, 초지능을 광범위하게, 저렴하게, 공정하게 분배하는 것이 중요하다. 초지능이 어느 개인, 회사, 국가에 과도하게 집중되지 않도록 해야 하며, 사용자에게 폭넓은 자유를 주되, 그 자유가 머물 수 있는 큰 틀은 사회가 함께 정해야 한다. 그 큰 틀의 기준이 되는 ‘인류 공동체의 가치와 윤리 정렬(collective alignment)’을 어떻게 정의할 것인지에 대해 가능한 한 빨리 세계가 논의를 시작할 필요가 있다.

우리 인공지능 업계는 전 세계인이 사용할 ‘두뇌’를 만들고 있다. 이 두뇌는 개인에게 맞춤화되어 누구나 쉽게 사용할 수 있는 때가 올 것이다. 그러면 앞으로 우리의 한계는 기술이 아니라 ‘좋은 아이디어’가 된다. 그동안 스타트업 업계에서는 흔히 ‘실행력은 없고 아이디어만 있는 사람들’을 조롱해 왔다. 하지만 이제는, 바로 그런 사람들이 제대로 주목받게 되는 시대가 온 것이다.

우리 OpenAI사는 많은 일을 하고 있지만, 그 무엇보다 우린 ‘초지능 연구하는 회사’다. 아직 해야 할 일은 많지만, 대부분의 길은 이제 밝혀졌고, 어두웠던 영역들이 빠르게 사라지고 있어, ‘측정할 수 없을 만큼 저렴한 지능’이 이제 손이 닿을 만큼 가까워졌다. 부디 초지능을 향한 우리의 행보가 부드럽고도 빠르면서 아무 탈 없이 나아가기를 기원한다.

그림을 클릭하면 샘 알트만의 글을 볼 수 있음.

**
<샘 알트만의 온화한 특이점(The Gentle Singularity) 전문 번역>

"온화한 특이점(The Gentle Singularity)" _ 샘 알트만(Sam Altman)