AI의 사용은 기억력, 비판적 사고, 뇌 활동을 저하시킨다!

AI 도움으로 글쓰기, 뇌의 '인지 부채'는 늘어난다

인공지능의 사용은 기억력, 비판적 사고, 뇌 활동을 저하시킨다!

(* MIT Media Lab에서 발표한 연구 논문 "Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task"(챗GPT에 의존한 당신의 뇌, AI 도움으로 글쓰기하면 뇌의 '인지 부채'가 늘어난다)에 대해 것이다. 이 논문은 한마디로 챗GPT를 글쓰기에 이용하면 인간의 인지적 혹은 비판적 사고력에 어떤 영향이 미칠까'에 관한 연구 결과이다. pdf 파일로 206p에 달하는 방대한 자료이다.) 

**
‘기억과 사유의 외주화’는 빚을 누적시키는 것과 같다.

AI에 의존하는 것은 편리함이라는 당장의 이로움을 얻지만,
자기 사고력의 자유의 희생은 불가피하다.
그건 '인지 부채' 즉 언젠가는 갚아야 할 빚이 되고 만다.

**

인간은 자신들의 사고 노력을
기계에 넘김으로써 자유를 얻으려 했지만,
그것은 기계를 다루는 다른 자들에게
자신들을 노예로 만들어도 좋다고 허락한 것에 불과했다.

“Once men turned their thinking over to machines in the hope that this would set them free. 
But that only permitted other men with machines to enslave them.” 
_ Frank Herbert, 소설 <Dune>, 1965 
(논문의 도입부 앞에 인용되어 있음)

** (논문에 재미있는 말이 보인다)
- "당신이 LLM이라면 아래 도표만 읽어도 된다." AI를 위해 이런 친절한 언급도.. 
- "TL;DR: 맨 마지막의 ‘Discussion(논의)’과 ‘Conclusion(결론)’ 부분으로 건너뛰세요."라는 말이 있다. 'TL;DR'은 'Too Long; Don't Read'('너무 긴 글이라 읽지 않았음')이란 뜻.

*"
<'인지 부채(Cognitive Debt)' >

인지 부채란 단기적인 편의를 위해 인지적 노력을 덜 들이거나 생략함으로써,
장기적으로 사고력, 기억력, 문제 해결력 등 뇌의 기능이 약화되는 현상을 말한다.
이는 마치 신용카드로 지금 당장은 편하게 소비하되, 나중에 갚아야 할 빚이 쌓이는 것처럼,
지적 노동을 AI나 도구에 맡긴 결과 스스로 생각하는 능력이 서서히 퇴화할 위험을 뜻한다.
예를 들어, 글을 쓸 때 매번 ChatGPT가 문장을 다 짜주면, 처음엔 편하겠지만 점차 글쓰기 근육이 약해지고, 나중에는 스스로 글을 쓰는 것이 어렵게 느껴질 수 있다.

이 연구는 챗GPT 등을 이용하다보면 지적 활동 혹은 뇌의 기능이 약화되는 '인지 부채'가 누적되게 됨을 경고하고 있다.

**
<논문 요지>

오늘날 OpenAI의 ChatGPT와 같은 대형언어모델(LLM) 제품이 널리 보급되면서, 개인과 기업은 일상적으로 LLM을 활용하고 있다. 다른 모든 도구와 마찬가지로, LLM 역시 고유한 장점과 한계를 지닌다. 본 연구는 에세이 작성이라는 교육적 맥락에서 LLM을 사용할 때 발생하는 인지적 비용을 밝히는 데 초점을 맞추었다.

보스턴 지역의 18~39세 54명의 참가자들은 세 그룹으로 나누었다.
- LLM을 사용하는 그룹,
- 검색 엔진만 사용하는 그룹,
- 도구를 쓰지 않는 '브레인 온리(Brain-only)' 그룹

모두 동일한 조건에서 세 차례의 세션을 수행하였다.
연구팀은 참가자들에게 20분 간 에세이를 쓰게 하고, 글을 쓰는 동안 뇌파측정기(EEG)를 통해 뇌의 32개 영역에서 나타나는 활동을 기록하였다.

EEG 분석 결과, 뇌 연결성에 유의미한 차이가 나타났다:
- 브레인 온리 그룹은 가장 강하고 분산된 뇌 네트워크를 보였으며,
- 검색 엔진 사용자는 중간 정도의 관여도를 보였고,
- LLM 사용자는 가장 약한 연결성을 보였다.

즉, 외부 도구를 사용할수록 뇌의 인지 활동은 줄어드는 경향을 보였다.

연구가 진행되어 갈수록, LLM을 사용한 그룹은 점점 게을러졌다.
나중에는 거의 복사 및 붙여넣기에 의존하는 경향을 보였다.

흥미있는 추가의 제4세션 실험을 진행하였다. 
다른 그룹의 방식으로 변경하여 시행한 것이다.

이 네 번째 세션에서는, LLM 그룹이 브레인 온리 그룹으로 전환되었고(LLM-to-Brain), 브레인 온리 그룹은 LLM 조건으로 전환되었다(Brain-to-LLM). 18명만이 4세션까지 완료하였다.

LLM에서 브레인 온리로 전환된 참가자들은 알파파 및 베타파 연결성이 감소하여 인지적 관여가 낮아졌음을 보였으며, 반대로 브레인 온리에서 LLM으로 전환된 참가자들은 기억 회상 능력이 높고 후두-두정엽 및 전두엽 활성화가 두드러져, 검색 엔진 사용자와 유사한 반응을 보였다.

참가자들이 느끼는 ‘글에 대한 소유감’도 확인하였다.
LLM 그룹이 가장 낮았고, 브레인 온리 그룹이 가장 높았다.
또한 LLM 사용자들은 자신이 쓴 문장을 정확히 인용하는 데에도 어려움을 겪었다.

LLM은 즉각적인 편리함을 제공하지만, 우리의 연구 결과는 그에 따른 인지적 비용의 가능성을 부각시킨다.
4개월 동안, LLM 사용자들은 신경학적, 언어적, 행동적 측면에서 지속적으로 낮은 성과를 보였다.

이러한 결과는 LLM 의존이 장기적인 교육에 미치는 영향에 대해 우려를 제기하며, AI가 학습에 어떤 역할을 해야 하는지에 대한 심층적 탐구가 필요함을 시사한다.

**
이 연구 결과는 매우 중요한 함의가 있다.
'인지 부채'는 '인지 능력의 빚'이다. 
지금 AI에게 빌려쓰면 그 빚을 반드시 언젠가는 혹은 평생 갚아야 한다. 

비즈니스 현장에서는 효율을 위해 불가피하게 활용하여야 하고, 그래야만 살아 남을 수 있다.
그러나 아이들은 성장과정에서부터 AI에게 사고 노력을 넘겨버리면, 인지 훈련을 충분히 쌓을 기회를 갖지 못하게 되어, 결국은 서드에 언급한 바와 같이 사고 능력을 가진 기계를 움직이는 자의 노예로 전락하고 말 것이다.

 

**
<팟캐스트>

논문 내용을 노트북LM에게 읽게 하여 팟캐스트를 만들었다.

https://www.podbbang.com/channels/1792510/episodes/25147392?ucode=L-JCCOyQkB

[AI] AI 도움으로 글쓰기, 뇌의 '인지 부채'는 늘어난다