"온화한 특이점(The Gentle Singularity)" _ 샘 알트만(Sam Altman)

"온화한 특이점(The Gentle Singularity)"

(* 인공지능 특히 초지능의 현재와 미래에 관한 샘 알트만의 250611 블로그 포스팅을 챗GPT로 번역하고 약간 손 보았음.)

 

*
우리는 이미 되돌릴 수 없는 선('사건의 지평선, the event horizon')을 넘었고, 기술 변화는 급격히 가속될 것이다. 인류는 디지털 초지능의 문턱에 다가섰으며, 적어도 지금까지는 우리가 우려했던 것만큼 낯설거나 괴이하지는 않다. 아직 로봇들이 거리를 활보하지도 않고, 사람들 대다수가 하루 종일 AI에게 말을 걸거나 하지도 않는다. 여전히 사람들은 질병으로 죽고, 우주로 나가는 게 쉬워지지도 않았으며, 우주에 대해서는 모르는 것도 너무도 많다.

그럼에도 불구하고 우리는 최근, 여러 면에서 인간보다 똑똑하며 인간의 산출물을 획기적으로 증폭시키는 시스템을 구축했다. 가장 가능성이 낮아 보였던 단계는 이미 지난 것이다. GPT-4나 o3 같은 시스템을 만든 과학적 통찰은 어렵게 얻어졌지만, 우리를 훨씬 더 먼 곳에까지 데려다 줄 것이다.

AI는 다양한 방식으로 세상에 기여할 것이지만, 무엇보다 과학적 진보를 가속하고 생산성을 높임으로써 삶의 질을 끌어올리는 효과는 엄청날 것이니, 미래는 지금보다 훨씬 더 좋아지게 될 것이다. 과학의 진보야말로 인류 전체 발전의 가장 큰 원동력이며, 우리가 앞으로 얼마나 더 많은 것을 이룰 수 있을지를 상상하는 것만으로도 벅찬 일이다.

큰 관점에서 보면, ChatGPT는 이미 인류 역사상 존재했던 그 어떤 인간보다도 강력하다. 매일 수억 명의 사람들이 이에 의지하여 점점 더 중요한 업무에 사용하고 있다. 그래서 작은 새로운 기능 하나가 엄청나게 긍정적인 영향을 창출할 수도 있는 한편으로, 아주 작은 오류 하나가 수억 명에게 확산되어 거대한 부작용을 유발할 수도 있다.

2025년은 실제로 생각하고 일할 수 있는 AI 에이전트들이 등장한 해다. 이제 컴퓨터 코드를 작성하는 방식도 예전과는 완전히 달라질 것이다. 2026년에는 새로운 아이디어를 스스로 발견하는 시스템이 나올 가능성이 크고, 2027년에는 실제 현실 세계에서 작업을 할 수 있는 로봇이 등장할지도 모른다.

앞으로 훨씬 더 많은 사람들이 소프트웨어를 만들고, 예술을 창작할 수 있게 될 것이다. 하지만 세상은 여전히 그런 창작물을 더 많이 원하고 있고, 전문가들이 새로운 도구를 채용한다면 초보자들에 비할 바 없이 뛰어난 능력을 발휘할 것이다. 대체로 2030년이 되면, 한 사람이 해낼 수 있는 역량은 2020년의 것에 비해 현저히 많아질 것이다. 그러면 사람들은 그 변화에서 어떻게 혜택을 누릴 것인지 그 방법을 찾아낼 것이다.

그리고 가장 중요한 생활 방식에서는 2030년대가 지금과 크게 다르지 않을 것이다. 사람들은 여전히 가족을 사랑하고, 창의력을 표현하고, 게임을 즐기고, 호수에서 수영하며 살아갈 것이다. 하지만 여전히 중요한 여러 생활 방식에서는, 2030년대가 지금까지의 어느 시대에 비해 크게 달라질 수 있다. 우리가 인간 수준의 지능을 얼마나 넘어서게 될지는 아직 모르지만, 그 답을 곧 알게 될 것이다.

2030년대에는 '지능'과 '에너지', 즉 아이디어를 떠올리고 그것을 실제로 실행할 수 있는 능력이 엄청나게 풍부해질 것이다. 이 두 가지는 오랫동안 인류 발전을 가로막던 가장 큰 제약이었지만, 풍부한 지능과 에너지, 그리고 좋은 관리능력만 있다면, 이론적으로 우리는 그 외의 모든 것도 가질 수 있게 된다.

우리는 이미 놀라운 디지털 지능과 함께 살고 있고, 초기에 다소 충격이 있었지만  이후 우리 대부분은 꽤 익숙해졌다. AI가 아름다운 문장을 써주는 것에 놀라다가 금세 ‘그럼 소설은 언제 쓰지?’ 하고 묻는다. 생명을 살리는 진단을 해주는 것에 놀라다가, ‘그럼 치료제는 언제 개발하지?’ 하고 묻는다. 작은 프로그램을 짜는 것에 감탄하다가, ‘그럼 회사 하나를 만들어내는 건 언제?’ 하고 기대한다. 이것이 특이점이다: 경이로움은 일상이 되고, 곧 기본이 된다.

과학자들은 이미 AI 덕분에 생산성이 2~3배 향상되었다고 말한다. 고급 AI가 중요한 이유는 많지만, 그중에서도 가장 중요한 점은 AI를 활용해 ‘더 빠른 AI 연구’를 할 수 있게 되었다는 점이다. 우리는 새로운 컴퓨팅 소재, 더 나은 알고리즘, 예기치 못한 발견을 할 수 있을지도 모른다. 10년치 연구를 1년 혹은 1개월 만에 할 수 있다면, 발전 속도는 전혀 다른 양상이 될 것이다.

이제부터는 우리가 이미 만들어낸 도구들이 새로운 과학적 통찰을 찾고, 더 뛰어난 AI를 만드는 데 도움을 줄 것이다. 물론  AI가 스스로 코드를 완전히 수정하는 ‘자율적 자기 진화’ 단계까지는 아닐지라도, 어쩌면 그 초기 단계 즉 ‘유충기(larval stage)’라 할 수 있다.

그 외에도 자가 강화의 고리가 작동하고 있다. 경제적 가치 창출이 시작되면, 강력한 AI 시스템을 가동시키는 데 필요한 인프라의 구축을 가속화시키게 된다. 그리고 로봇이 로봇을 만들고, 데이터센터가 다른 데이터센터를 만드는 시대도 멀지 않다.

첫 백만 개의 휴머노이드 로봇을 예전 방식으로 만든다 하더라도, 이후 그 로봇들이 전체 공급망, 즉 광물 채굴, 트럭 운전, 공장 운영 등을 가동시켜 더 많은 로봇을 만들고, 그 로봇들이 반도체 공장, 데이터센터 등을 구축할 수 있게 되면, 발전 속도는 급변하게 될 것이다.

데이터센터의 생산이 자동화되면, 인공 지능의 비용은 결국 전기 요금 수준에 근접하게 될 것이다. (많은 이들이 ChatGPT 쿼리 하나가 얼마나 에너지를 쓰는지 궁금해한다. 평균적으로 하나의 쿼리는 약 0.34 와트시를 사용하며, 이는 오븐이 1초 넘게 작동할 때나 고효율 전등이 몇 분 동안 작동할 때와 비슷하다. 물은 약 0.000085갤런, 즉 1/15 티스푼 정도 소비된다.)

기술 발전의 속도는 계속해서 가속될 것이고, 사람들은 거의 모든 변화에 적응해내는 능력을 계속 보여줄 것이다. 물론 많은 직업군이 사라지는 어려움도 있겠지만, 한편으로는 세상이 너무 빨리 풍요로워져서 예전에는 상상도 못 했던 새로운 정책들을 진지하게 고민할 수 있는 시대가 올 것이다. 우리가 새로운 사회계약을 한순간에 채택하진 않겠지만, 수십 년 뒤에 되돌아보면 그 점진적인 변화들이 결국 커다란 전환으로 이어졌다는 걸 알게 될 것이다.

역사가 우리에게 알려주는 게 있다면, 우리는 늘 새로운 일을 찾아내고, 새로운 욕망을 만들며, 새로운 도구에도 금세 익숙해진다는 것이다. (산업혁명 이후 직업 변화가 좋은 사례다.) 기대치는 높아지겠지만, 능력도 그만큼 향상되고, 우리는 더 나은 것을 누리게 될 것이다. 인간에게는 AI에 비해 매우 중요한 장점이 하나 있다. 우리는 본능적으로 다른 사람과 그들의 생각, 행동을 신경 쓰도록 설계되어 있으며, 기계에는 그렇게까지 관심을 두지 않는다는 점이다.

천 년 전의 자급자족 농부가 오늘날 우리를 본다면, “가짜 일만 하고 놀면서 사치나 즐기는구나”라 생각할 것이다. 나는 우리가 천 년 후의 일을 보며 똑같이 느끼길 바란다. 물론 그 시대의 사람들은 지금 우리가 그렇듯, 자신의 일이 매우 중요하고 의미 있다고 느낄 것이다.

앞으로 새로운 경이로움들이 쏟아져 나올 속도는 상상을 초월할 것이다. 2035년까지 우리가 무엇을 발견하게 될지 짐작도 하기 어렵다. 어쩌면 고에너지 물리학 문제를 해결하고 그 다음 해에 우주 식민지를 시작할 수도 있고, 신소재 과학의 돌파구를 찾은 다음 해에 진정한 고속의 두뇌-컴퓨터 인터페이스가 실현될지도 모른다. 어떤 사람들은 지금과 같은 방식의 삶을 살겠지만, 적잖은 사람들이 ‘AI에 접속된 삶'을 택할 가능성이 높다.

미래를 내다보면, 이 모든 변화를 쉽게 이해하기는 어렵게 느껴지겠지만, 실제의 삶은 다소 놀랍게 여겨지더라도 충분히 감당 가능한 경험이 될 것이다. 특이점은 비교적 점진적으로 일어나고, 그것이 융합되는 과정도 느리게 진행될 것이다. 기술 발전은 지수적인 곡선을 따라 상승하고 있다. 이 곡선은 앞을 바라보면 가파르게 보이지만, 뒤를 돌아보면 평탄해 보이는, 그러나 실제로는 하나의  부드러운 흐름이 된다. 2020년 당시에 누가 '2025년쯤 AGI 비슷한 게 나올거야'라고 말했다면 미친 소리처럼 들렸겠지만, 지난 5년을 돌아보면 그 말이 터무니 없다고 할 수는 없을 것이다.

이처럼 거대한 가능성을 기대하는 한편으로, 우리는 그에 상응하는 심각한 도전들도 마주하게 된다. 기술적, 사회적 측면 모두에서 AI 안전 문제를 해결해야 하고, 그다음엔 초지능을 광범위하게, 저렴하게, 공정하게 배분하는 것이 중요하다. 가장 바람직한 경로는 아마 다음과 같을 것이다:

먼저, 우리가 정말로 원하는 방향으로 AI가 배우고 행동하도록 하는 소위 ‘윤리 문제(alignment problem)’를 해결해야 한다. 그리고 그러한 윤리를 AI가 언제까지나 확실히 지킬 수 있도록 보장하여야 한다. 예를 들어, 지금 소셜 미디어에서 정보를 마구 제공하는 행위는 ‘정렬되지 않은 AI’의 예다. 그 알고리즘은 당신의 단기적 취향은 정확히 파악하여 당신이 계속 스크롤하도록 만드는 데 놀라울 정도로 능숙하기 때문에, 당신 뇌가 추구해야 할 장기적인 목표를 잊게 만든다.

그 다음으로, 초지능을 저렴하고 광범위하게 이용 가능하게 하며, 어느 개인, 회사, 국가에 과도하게 집중되지 않도록 해야 한다. 사회는 회복력 있고, 창의적이며, 빠르게 적응하는 능력을 지니고 있다. 우리가 사람들의 집단적 의지와 지혜를 잘 모아낼 수 있다면, 실수도 많이 하고, 어떤 일은 크게 잘못되더라도 우리는 금세 배우고 적응하여 이 기술을 최대한 이롭게, 그리고 최소한으로 해롭게 사용할 수 있을 것이다. 사용자에게 폭넓은 자유를 주되, 그 자유가 머물 수 있는 큰 틀은 사회가 함께 정해야 하며, 이것은 매우 중요한 일이다. 이 큰 틀의 기준이 무엇인지, 그리고 우리가 어떻게 ‘집단적 가치와 윤리(collective alignment)’를 정의할 것인지에 대해 세계가 가능한 한 빨리 논의를 시작하는 것이 바람직하다.

우리(OpenAI를 포함한 산업 전체)는 전 세계를 위한 하나의 ‘두뇌’를 만들고 있다. 이 두뇌는 지극히 개인화되어 누구나 쉽게 사용할 수 있게 될 것이다. 앞으로 우리를 제한하는 것은 기술이 아니라 ‘좋은 아이디어’가 될 것이다. 그동안 스타트업 업계에서는 흔히 ‘아이디어만 있는 사람들’을 조롱해 왔다. 즉, 실행력은 없고 아이디어만 있고 팀을 찾는 사람들 말이다. 하지만 이제는, 바로 그런 사람들이 제대로 주목받게 되는 시대가 오고 있는 것 같다

OpenAI는 많은 일을 하고 있지만, 그 무엇보다 초지능을 연구하는 회사다. 아직 할 일은 많지만, 대부분의 길은 이제 밝혀졌고, 어두웠던 영역들이 빠르게 사라지고 있다. 우리는 이 일을 할 수 있다는 사실에 깊이 감사하고 있다. ‘측정할 수 없을 만큼 저렴한 지능(intelligence too cheap to meter)’이 이제 손이 닿을 만큼 가까워졌다. 이 말이 미친 소리처럼 들릴 수도 있겠지만, 5년 전에 우리가 지금 이 자리에 있을 거라고 말했더라면 그게 더 터무니없이 들렸을 것이다.

부디 우리가 초지능을 향해 부드럽게, 지수적으로, 그리고 별 탈 없이 나아가기를 빈다.

 

(주* 사건의 지평선(the event horizon): '블랙홀의 경계선'. 이 경계를 넘으면, 그 어떤 정보나 빛도 결코 빠져나올 수 없다. '돌이킬 수 없는 지점'이다. “넘으면 되돌릴 수 없는 문턱”)