우리 뇌가 똑똑해진 비밀, 45억 년 진화 여정을 한 권에 | 지능의 기원 맥스 베넷 솔직 후기

원제 : A Brief History of Intelligence: Evolution, AI, and the Five Breakthroughs That Made Our Brains
저자 : 맥스 베넷 (Max Bennett)
장르 : 뇌과학, 인공지능, 과학

들어가며: 뇌의 역사를 AI의 눈으로 보다

정재승 교수의 감수를 보고 집어든 책이에요. 뇌과학이라면 너무 어려울까 걱정했는데, 서문부터 "생물학에서는 진화의 관점으로 비춰보지 않고는 아무것도 이해할 수 없다"는 문장이 콕 박히더라고요. 저자는 뇌를 가장 마지막에 들여다봐야 한다고 해요. 지금의 뇌가 아니라 오래전 과거가 숨겨놓은 잔재부터 살펴야 한다는 것이죠.

이 책의 질문은 단순해요. 지능이 어디에서 왔는지를 AI의 눈으로 다시 읽는 것. 그래서 낯선 조합이지만 오히려 척척 이해가 됐어요. 뇌가 진화해온 길을 따라가면 인공지능이 왜 지금의 모습인지도 보인다는 통찰이 책 전체를 관통해요. 뉴런 하나에서 챗GPT까지, 이 여정을 따라가 보니 오늘날의 AI를 읽는 기준이 왜 진화인지 알겠더라고요.

첫 번째 혁신: 뇌가 등장하기 전부터 지능은 있었다

놀랍게도 최초의 뇌는 무언가를 계산하거나 기억하기 위해 만들어진 게 아니었어요. 그냥 몸을 "먹이로 가까이, 포식자로부터 멀리" 움직이는 조종 장치였죠. 저자는 이 조종을 지능의 혁신 #1이라고 부릅니다. 최초의 뇌와 집중화된 신경계는 좌우대칭동물 계통에서 발달한 것으로 설명돼요. 좌우대칭 구조는 한쪽 방향으로 이동하며 앞쪽의 감각기관과 신경계를 집중시키는 데 유리했죠.

목차에서 가장 흥미로웠던 대목이에요. '뇌가 등장하기 전부터 지능은 있었다'는 첫 장 제목. 신경세포가 모여 뇌가 되기는 했지만, 원래 신경세포의 목적은 아주 단순한 몸의 움직임을 조종하는 것이었다고 해요. 지능의 역사를 조종부터 시작해서 거슬러 오른다는 발상 자체가 이 책을 처음부터 끌리게 만들었어요.

좋음과 나쁨이 생겨나는 순간, 가치 평가의 시작

조종만으로는 부족해요. 배가 고플 때 먹이로 가야 하는데, 매번 옳은 선택을 할 수는 없으니까요. 그래서 진화는 특정 경험을 좋음 또는 나쁨으로 평가하는 가치 평가 신경계를 발달시켰어요. 배가 고플 때는 판정이 뒤집힐 수 있다는 설명이 특히 신기했어요.

선충이 스트레스를 받으면 어떤 반응을 보이는지, 도파민과 세로토닌이 어떤 용도로 쓰이는지도 책에서는 다뤄요. 무슨 특별한 뇌가 아니라 이렇게 단순한 신경계부터 좋음과 나쁨, 그리고 정서적 반응의 초기 형태가 시작됐다는 게 묘하게 감동적이더라고요. 마치 감정의 설계도를 열람하는 기분이었어요.

두 번째 혁신: 물고기에서 시작된 강화학습

어류가 생각보다 훨씬 똑똑하다는 실험이 소개돼요. 버튼을 눌러 먹이를 얻고, 탈출구를 찾고, 고리를 통과하는 법을 어류가 배울 수 있다고 해요. 이 학습 방식을 저자는 강화학습과 연결해서 설명합니다. 물고기의 시행착오 학습은 오늘날 강화학습과 기능적으로 닮아 있어요. 둘 다 행동의 결과에 따라 이후 행동을 조정하지만, 생물학적 신경계의 작동 방식과 인공지능 알고리즘이 완전히 같은 것은 아니에요.

이 시행착오 학습의 핵심은 시간차학습이라는 계산이에요. 도파민은 단순한 쾌락 물질이라기보다, 예상한 보상과 실제 결과의 차이, 즉 보상 예측 오류와 관련된 신호로 설명돼요. 안도와 실망, 타이밍이라는 개념이 이 시점에 등장합니다. AI가 보상을 학습하는 방식과 물고기의 학습이 닮아 있다는 대목이 특히 여운이 남았어요.

세상의 패턴을 보는 법 그리고 호기심의 기원

패턴을 인식하는 일이 얼마나 어려운지, 냄새를 맞히는 일이 왜 머리 아픈 문제인지도 다뤄요. 그리고 이 장에서 가장 마음에 남은 문장이 있어요. 호기심이 강화학습과 함께 공진화했다는 것. 저자는 약 5억 년 전 어류와 비슷한 조상에게서 새로운 패턴을 탐색하고 정보를 얻으려는 호기심의 초기 형태가 등장했을 가능성을 제시해요.

이 설명은 AI 강화학습에서 탐험과 활용의 균형을 설계하는 문제와 흥미로운 유사성을 보여 줘요. 책을 읽으니 논문처럼 딱딱한 내용이 아니라, 진화가 오래전에 다뤄온 문제가 그대로 우리 기술에 남아 있다는 사실이 신선했습니다.

세 번째 혁신: 상상하는 뇌가 세상을 시뮬레이션하다

포유류 계통에서는 신피질(새겉질)이 크게 발달하면서 외부 세계를 내부적으로 모델링하고 시뮬레이션하는 능력이 확장돼요. 이 책에서 가장 흥미로운 부분인 마운트캐슬의 아이디어가 여기서 나옵니다. 마운트캐슬은 신피질의 여러 영역이 서로 다른 감각을 처리하면서도 공통된 계산 원리를 공유할 수 있다는 아이디어를 제시했어요. 저자는 이 관점에서 신피질이 특정 기능 하나에 고정되지 않은 일반적 예측·모델링 장치로 활용될 수 있다고 설명해요.

상상극장 속의 생쥐라는 표현이 그려지는 장도 인상적이었어요. 미로를 실제로 도는 대신 머릿속에서 미로를 시뮬레이션하고, 상상 속 행동의 결과를 미리 보는 대리 시행착오가 가능해졌다는 것. 저자는 꿈과 환각을 뇌가 내부 모델을 실제 감각 입력과 구분하지 못하거나, 감각 입력보다 내부 시뮬레이션이 강해진 현상으로 해석할 가능성을 제시해요. 이 해석이 물리학 책에서 본 생성모델 개념과도 닿아 있어서 반가웠어요.

포유류는 어떻게 선택을 할까

포유류가 매번 행동할 때마다 처음부터 다시 계산하는 건 아니에요. 전전두피질을 포함한 여러 뇌 회로는 가능한 행동의 결과를 예측하고, 목표와 보상에 비추어 행동을 선택하는 데 관여해요. 저자는 이를 목표의 위계라고 설명해요. 큰 목표를 위해 하위 목표들을 미리 짜는 구조이죠.

이 장은 결국 로봇 얘기처럼 읽혀요. 명령이 아니라 예측이 움직임을 만든다는 논리는 로봇을 설계하는 관점과 닿아 있어요. 책에서는 식기세척 로봇이 아직 없는 이유로 이 지점을 설명하는데, 다양한 형태와 재질의 식기를 인식하고, 깨지지 않게 잡고, 물기와 오염 상태까지 예측해야 하는 어려움 때문이라고 해요. 단순히 명령을 실행하는 것과는 전혀 다른 문제라는 게 명쾌하게 와 닿았어요.

네 번째 혁신: 마음을 읽는 영장류, 정신화

영장류 계통에서는 복잡한 사회관계를 추적하고 다른 개체의 의도와 지식을 추론하는 능력이 크게 발달했어요. 저자는 이를 정신화, 즉 마음이론의 진화와 연결해 설명합니다. 내 마음을 모델화할 수 있어야 남의 마음도 모델화할 수 있다는 설명이 핵심이에요. 물론 마음이론은 종마다 정도와 형태가 다르고, 까마귀나 개처럼 다른 동물에서도 사회적 추론과 관련된 능력이 연구되고 있답니다.

저자는 영장류를 똑똑한 개체라기보다 온집단의 관계망에서 살아남은 동물로 봐요. 집단 안에서 정치와 협력의 진화적 긴장이 뇌를 키웠다는 것이죠. 거울을 이용한 자기인식 실험과, 다른 개체의 행동을 관찰해 배우는 사회적 학습은 서로 다른 현상이에요. 이 책이 강조하는 핵심은 후자, 즉 집단 안에서 정보를 관찰하고 전달하는 능력이 지능의 진화에 중요한 역할을 했다는 점이에요. 전달성이 독창성보다 더 강력한 생존 전략이라는 것이죠.

다섯 번째 혁신: 언어, 생각을 쌓는 기술

마지막 혁신은 언어에요. 저자는 언어를 단순한 의사소통 수단을 넘어, 개인의 경험과 지식을 집단 안에 저장하고 다음 세대로 전달하는 생각을 쌓는 기술로 바라봐요. 유인원에게 수화를 가르친 실험, 웃음과 같은 다른 소통 방식과 언어의 관계까지 다루면서, 언어가 뇌의 계산을 '같이 쌓는' 도구가 된다고 설명해요. 다만 언어의 기원과 호모 에렉투스의 언어 능력은 직접 확인하기 어려운 부분이므로, 이 대목은 진화적 가설로 읽는 편이 좋아요.

그리고 이 축적이 만들어낸 게 집단지성이에요. 개인의 뇌가 아니라 수많은 뇌가 연결되어 문화가 쌓이고, 그 앞에서 인류가 번성했어요. 45억 년 원재료에서 인간 뇌가 되기까지의 이야기가 여기서 한 바퀴를 도는 느낌이라 밀도가 가장 높게 느껴졌어요.

챗GPT와 마음을 들여다보는 창

책의 후반부에서 저자는 인간 지능을 만든 다섯 가지 혁신을 기준으로 오늘날의 AI, 특히 GPT 계열 모델이 어디까지 도달했는지 비교해 봐요. 여기서 저자는 LLM의 언어 생성 능력과 인간의 이해·추론을 동일시해서는 안 된다고 지적해요. LLM이 복잡한 문제를 해결하는 모습을 보여도 그것이 인간과 같은 세계 이해나 마음이론을 갖췄다는 뜻은 아니라는 주장이에요. 계산기가 세상 누구보다 산수를 잘해도 수학을 이해하는 것은 아닌 것과 같은 맥락이죠.

저자는 사람과 더 비슷한 사회적 지능을 가진 AI를 만들려면 다른 행위자의 목표와 믿음, 관점을 모델링하는 마음이론적 능력이 중요할 수 있다고 봐요. 목표 설정이 잘못되면 무슨 일이 생기는지를 다루는 종이 클립 문제 같은 사례가 특히 인상적이었어요. GPT-4가 무엇이 다른지, 우리가 어디에 서 있는지까지 연결해 주는 마무리가 좋았어요.

마치며: 여섯 번째 혁신은 무엇일까

아쉬운 점을 꼽자면, 뇌과학 용어가 처음 보는 분에게는 초반 2~3장이 조금 빡빡할 수 있어요. 제가 이해한 구조 설명이 서있어서 상대적으로 수월했지만, 용어 사전이 함께 있었다면 더 좋았을 것 같아요. 그래도 그 벽을 넘으면 내용이 어려운 만큼 짜릿함도 크답니다.

뇌의 역사에 관심 있는 분, 인공지능이 왜 지금의 모양인지 궁금한 분이라면 특히 추천해요. 진화의 관점에서 지능을 바라보는 책은 드물거든요. 약 45억 년에 걸친 생명의 역사와, 그중 약 6억 년 전부터 본격화된 신경계의 진화를 거쳐 오늘날 AI라는 새로운 지능이 등장한 셈이에요. 이 책을 읽고 나면 뉴런과 회로, 뇌와 AI가 서로를 비춰주는 존재라는 걸 알게 돼요.

9 / 10점 ★★★★★★★★★☆
한 줄 총평: 뇌와 AI의 진화가 이토록 같은 길을 걸어왔다는 걸 한 권으로 보여준 책.