표제/저자사항천 개의 뇌 : 뇌의 새로운 이해 그리고 인류와 기계 지능의 미래 / 제프 호킨스 지음 ; 이충호 옮김
Hawkins, Jeff[1957-] 이충호[1960-]
발행사항서울 : 이데아, 2022
형태사항383 p. : 삽화 ; 22 cm
주기사항색인 수록
원저자명: Jeff Hawkins
원표제: Thousand brains : a new theory of intelligence
영어 원작을 한국어로 번역
표준번호/부호ISBN 9791189143282 03400: ₩20000
분류기호한국십진분류법-> 511.1813 듀이십진분류법-> 612.82
1 뇌에 대해 새로 알게 된 것들 = 19
21
“단순한 세포들로 만들어진 뇌가 어떻게 지능을 만들어내는가?”는 아주 흥미로운 질문이며, 아직 수수께끼로 남아 있다.
신경과학의 궁극적 목표는 사람의 뇌가 어떻게 인간 지능을 낳았는지 알아내는 것이다.
22
크릭에 따르면, 뇌가 여전히 수수께끼로 남아 있는 이유는 우리가 데이터를 충분히 얻지 못해서가 아니라, 이미 손에 넣은 조각들을 어떻게 배열해야 할지 모르기 때문이다.
1장 오래된 뇌와 새로운 뇌 = 34
34
새로 나타나는 것만큼이나 자주 사라지는 종과 달리 뇌는 오래된 부분들 위에 새로운 부분들을 추가하면서 계속 진화했다.
35
시간이 지나면서 뇌는 오래된 부분들 위에 새로운 부분들을 진화시킴으로써 점점 더 복잡한 행동을 할 수 있게 되었다.
뇌에서 가장 새로운 부분은 신피질인데, 이것은 문자 그대로 ‘가장 바깥쪽 층’을 뜻한다. 모든 포유류는 신피질이 있고, 또 오직 포유류에게만 신피질이 있다. 사람의 신피질은 특히 커서 뇌 전체 부피의 약 70%를 차지한다.
36
신피질은 지능이 머무는 기관이다. 우리가 지능으로 간주하는 모든 능력 – 시각, 언어, 음악, 수학, 과학, 공학 같은-은 신피질에서 생겨난다. 우리가 뭔가를 생각할 때, 그 생각을 하는 주체는 대부분 신피질이다.
신피질은 아주 불공평한 처지에 있는데, 행동을 직접 제어하지 못하기 때문이다. 뇌의 다른 부분들과 달리 신피질의 세포 중에서 근육과 직접 연결된 것은 하나도 없으며, 그래서 혼자서는 어떤 근육도 움직일 수 없다. 신피질이 어떤 일을 하길 원한다면, 오래된 뇌로 신호를 보내 자신의 지시를 따르라고 요구해야 한다.
37
오래된 뇌에는 각각 특정 기능을 수행하는 별개의 기관이 수십 개 포함되어 있다. 이 기관들은 모두 시각적으로 독특하며, 그 모양과 크기와 연결에 그 기능이 반영되어 있다.
43
카할이 뇌의 자세한 모습을 처음 그린 지 120년이 지나는 동안 수백 명의 과학자들이 신피질을 연구하여 이곳의 신경세포들과 회로에 대해 자세한 사실을 아주 많이 발견했다. 이 주제를 다룬 과학 논문은 수천 편이나 발표되어 내가 그 모든 것을 요약하기란 불가능하다. 그 대신 일반적인 견해 세 가지를 강조하려고 한다.
- 신피질의 국지적 회로는 복잡하다.
- 신피질은 어디서나 겉모습이 서로 비슷하다.
- 모든 신피질 영역은 움직임을 만들어낸다.
2장 버넌 마운트캐슬의 굉장한 개념 = 47
50
요컨대, 신피질의 모든 부분은 동일한 원리로 작동한다는 것이다. 시각에서부터 촉각, 언어, 고차원 사고에 이르기까지 우리가 지능으로 간주하는 모든 것은 기본적으로 동일하다.
51
마운드캐슬은 모든 영역이 똑같아 보이는 이유가 모두 똑같은 일을 하기 때문이라고 주장했다. 각각의 영역은 각자의 고유한 기능이 아니라 무엇에 연결되어 있느냐에 따라 달라진다.
다윈은 생명의 다양성이 한가지 기본 알고리즘 때문에 나타났다고 주장했다. 여기에 마운트캐슬은 지능의 다양성 역시 한 가지 기본 알고리즘 때문에 나타났다고 주장했다.
52
그는 신피질의 기본 단위, 즉 지능의 기본 단위가 ‘피질 기둥’이라고 말했다. 신피질 표면에서 피질 기둥 하나는 약 1mm^2를 차지한다. 그리고 신피질의 두께 2.5mm 전체에 걸쳐 뻗어있어 그 부피는 약 2.5mm^3다. 정의에 따르면, 사람의 신피질에는 약 15만 개의 피질 기둥이 촘촘하게 늘어서 있는 셈이다.
53
일부 예외를 제외하면 피질 기둥들 사이에는 눈에 보이는 경계가 없다. 그래도 과학자들은 피질 기둥이 존재한다는 사실을 알 수 있는데, 한 피질 기둥에 있는 모든 세포가 동일한 망막 부분이나 동일한 피부 부분에 반응하는 반면, 그 옆의 기둥에 있는 세포들은 모두 다른 망막 부분이나 다른 피부 부분에 반응하기 때문이다. 이러한 반응의 차이가 피질 기둥을 정의하는 특성이다.
마운트캐슬은 각각의 기둥은 다시 수백 개의 ‘소기둥’으로 나뉘어 있다고 지적했다. 피질 기둥이 가느다란 스파게티 가닥이면, 소기둥은 머리카락처럼 훨씬 가느다란 가닥들이 스파게티 가닥 내부에 나란히 줄지어 늘어서 있는 것이라고 말할 수 있다. 각각의 소기둥 안에는 100개를 조금 넘는 신경세포가 모든 층에 걸쳐 뻗어 있다. 피질 기둥과 달리 소기둥은 물리적으로 분명히 구분되고 대개 현미경으로 볼 수 있다.
54
마운트캐슬은 공통 알고리즘의 존재를 뒷받침하기 위해 여러 갈래의 증거를 제시했다.
- 신피질 모든 곳의 세부 회로가 놀랍도록 비슷하다는 사실
- 호미니드 조상에 비해 현생 인류의 신피질이 크게 팽창한 사건이 진화사에서 아주 짧은 시간에 해당하는, 불과 수백만 년 동안에 일어났다는 사실
- 각 신피질 영역의 기능이 확고하게 정해져 있지 않다는 사실
- 극도의 유연성.
극도의 유연성 : 사람은 진화압이 전혀 없는 일을 수없이 많이 할 수 있다. 예를 들면, 우리 뇌는 컴퓨터를 프로그래밍하거나 아이스크림을 만들도록 진화하지 않았다. 이 둘은 최근에 발명된 것이다. 우리가 이런 일을 할 수 있다는 사실은 뇌가 범용 학습 방법에 의존한다는 것을 말해준다. 나는 이 마지막 증거가 가장 설득력이 높다고 생각한다. 사실상 어떤 것이라도 학습할 수 있는 능력은 뇌가 보편 원리에 따라 작용해야 가능하다.
3장 우리 머릿속의 세계 모형 = 58
59
뇌의 작용 방식에 관심을 가진 그 순간부터 나는 신피질을 입력-출력 시스템으로 간주하는 견해는 생산적이지 않다는 사실을 깨달았다.
60
내 뇌, 더 구체적으로는 내 신피질은 내가 무엇을 보고 듣고 느낄지 수많은 에측을 동시에 한다고 볼 수밖에 없었다.
61
나는 신피질이 하는 일이 예측뿐만이 아니라는 사실을 알았지만, 예측은 피질 기둥의 수수께끼를 공략하는 체계적 방법이었다.
뇌가 예측을 하려면 정상적인 것이 어떤 것인지 알아야 한다.
62
뇌는 예측 모형을 만든다. 이것은 뇌가 끊임없이 입력의 결과를 예측한다는 뜻이다. 예측은 뇌가 이따금씩 하는 일이 아니다. 예측은 멈추지 않고 계속 일어나는 뇌의 고유한 속성이고, 학습에서 필수적 역할을 한다. 뇌의 예측이 입증되면, 그것은 뇌의 세계 모형이 옳다는 것을 의미한다. 예측이 빗나가면, 우리는 오류에 주목해 모형을 수정한다.
63
신피질은 세계에 대해 내장된 일부 가정을 갖고 삶을 시작하지만 구체적으로 아는 것은 아무것도 없다고 말할 수 있다. 신피질은 경험을 통해 풍부하고 복잡한 세계 모형을 배운다.
65
뇌는 시간이 지나면서 입력이 어떻게 변하는지 관찰함으로써 세계 모형을 배운다.
66
하지만 대부분의 학습은 능동적으로 움직이고 탐구하는 활동이 필요하다
66
이것을 나타내는 용어가 바로 감각-운동 학습이다. 다시 말해, 뇌는 우리가 움직일 때 우리의 감각 입력이 어떻게 변하는지 관찰함으로써 세계 모형을 배운다. 우리가 움직이지 않고 노래를 배울 수 있는 이유는 집 안에서 우리가 이 방 저 방으로 돌아다니는 순서와 달리 노래의 음정 순서가 고정되어 있기 때문이다.
하지만 세계에 존재하는 것 중 대부부은 그렇지 않다. 사물과 장소와 행동의 구조를 발견하려면, 대개는 우리가 움직여야 한다.
67
신피질이 어떻게 작용하는냐는 질문을 이제 더 정확하게 표현할 수 있다. 거의 동일한 피질 기둥 약 15만 개로 이루어진 신피질은 움직임을 통해 세계 예측 모형을 어떻게 배울까?
이것은 나와 내 팀이 답을 알아내려고 했던 바로 그 질문이다.
68
신경세포
세포의 경계에 해당하는 세포막과 DNA가 들어 있는 세포핵
신경세포는 다른 세포들에서 볼 수 없는 독특한 속성이 여러 가지 있다.
- 신경세포의 나무 구조
축삭과 가지돌기. 가지돌기는 세포 가까이 모여 있고 입력 수신.
축삭은 출력 부분. 부근의 신경세포들과 많이 연결되지만, 뇌 한쪽 끝에서 반대쪽 끝까지, 또는 신피질에서 저 아래 척수까지 멀리 뻗어가는 경우도 많음.
- 신경세포에서 발생하는 활동 전위라는 극파
활동 전위는 세포체 부근에서 발생, 모든 가지 끝까지 나아가는 전기 신호.
- 한 신경세포의 축삭이 다른 신경세포의 가지돌기에 연결됨. 그 연결점을 시냅스. 극파가 시냅스에 이르면 거기서 화학 물질이 분비되어 연결된 신경세포의 가지돌기로 들어감. 화학물질의 종류에 따라 그 신경세포가 자신의 극파를 발화할 가능성이 높아지거나 낮아짐.
-> 두 가지 기본 원리를 이야기 하자.
- 생각과 개념과 지각은 신경세포의 활동이다
생각과 경험은 항상 동시에 활발하게 활동하는 신경세포 집단에서 비롯되는 결과물이다.
- 우리가 아는 모든 것은 신경세포들 사이의 연결에 저장된다.
뇌가 학습을 하는 방법의 기본 개념은 다음과 같다. 각 신경세포에는 그 신경세포를 수천 개의 다른 신경세포와 연결하는 시냅스가 수천 개 있다. 만약 두 신경세포가 동시에 극파를 발화하면, 두 신경세포 사이의 연결이 강화된다. 우리가 뭔가를 배울 때는 이 연결이 강화되며, 뭔가를 잊을 때에는 이 연결이 약해진다. 도널드 헤브가 1940년대에 주장한 이 기본 개념은 지금은 헤브의 학습 규칙이라 부른다.
70
지난 수십 년 사이에 과학자들은 신피질을 포함해 뇌의 많은 부분에서 새로운 시냅스가 생겨나고 오래된 시냅스가 사라진다는 사실을 발견했다. 매일 각각의 신경세포에서 많은 시냅스가 사라지고 새로운 시냅스가 생겨나 그것을 대체한다. 따라서 많은 학습은 이전에 연결되지 않았던 신경세포들 사이에 연결이 새로 생김으로써 일어난다. 기억이 사라지는 일은 오래되거나 사용하지 않은 연결이 완전히 사라질 때 일어난다.
4장 자신의 비밀을 드러내는 뇌 = 72
73
나는 신피질이 복잡해 보이는 것은 우리가 제대로 이해하지 못해서 그럴 뿐이며, 훗날 되돌아보면 비교적 단순해 보일 것이라고 믿었다.
74
내 기억에 생생하게 남아 있는 그 ‘아하’ 순간은 세 차례 있었다.
- 신피질은 세계 예측 모형을 배운다.
- 예측은 신경세포 내부에서 일어난다.
멜로디의 다음 음정을 예측하는 것(이를 순서 기억이라 부른다)은 두 가지 문제(주변 세계가 변하기, 우리가 세계에 대해 움직이기) 중에서 더 단순하기 때문에, 우리는 이것부터 연구했다. 순서 기억은 단지 멜로디를 배우는 것뿐만 아니라 그 밖의 많은 곳에 쓰인다. 순서 기억은 행동을 만들어내는 데에도 쓰인다. 예를 들면, 나는 샤워를 하고 나서 수건으로 몸을 닦을 때 거의 동일한 동작 패턴을 따르는데, 이것은 일종의 순서 기억이다.
- 예측은 한 신경세포가 어떤 패턴을 인식해 가지돌기 극파를 만들고 다른 신경세포들보다 더 일찍 극파를 발화할 준비가 될 때 일어난다. 각각의 신경세포는 수천개의 먼쪽 시냅스를 가지고 있어 그 신경세포가 언제 활성화될지 예측하게 해주는 수백 가지 패턴을 인식할 수 있다. 예측은 신피질의 구조에, 즉 신경세포에 내장되어 있다.
- 피질 기둥의 비밀은 기준틀에 있다.
5장 뇌 속의 지도 = 95
96
우리가 물체를 눈 속이나 귀 속이 아니라 어딘가에 있는 것으로 지각한다는 이 단순한 관찰은 뇌 속에 우리가 지각하는 모든 물체의 위치를 나타내는 신경세포들이 분명히 있다고 말해준다.
100
만약 그곳이 새로운 환경이라면, 격자세포는 새로운 기준틀을 만든다. 만약 그곳이 예전에 들렸던 환경이라면, 격자세포는 그때 사용한 기준틀을 다시 꺼내 적용한다.
… 그리고 도시(예시)를 돌아니면서 자신의 지도에 각 장소에서 본 것을 적어 넣는다. 격자세포와 장소세포가 바로 이와 같은 일을 한다. 이 세포들은 모든 환경에 대해 독특한 지도를 만든다. 쥐가 움직이면, 활성화된 격자세포와 장소세포가 새로운 장소를 변형해 변한다.
사람도 마찬가지다. … 우리 모두는 격자세포와 장소세포를 사용해 우리가 있는 장소들의 모형을 만든다.
108
정보의 기본적인 흐름은 다음과 같이 일어난다. 감각 입력이 도착하고, 위층의 신경세포들이 그것을 나타낸다. 그러면 아래층에서 그 입력과 연관된 위치를 불러오는 일이 일어난다.
109
피질 기둥이 대상 모형을 배우려면, 반드시 해야 할 일이 더 있다. 예를 들면, 정위를 나타내는 것이 있어야 한다.
오래된 뇌에는 머리방향세포라는 신경세포가 있다. 이름이 암시하듯이 이 세포는 동물의 머리가 향하는 방향을 나타낸다. 머리방향세포는 나침반처럼 행동하지만, 자북극에 매여 있진 않다. 그 대신 방이나 주변 환경에 맞춰 나란히 늘어서 있다.
… 피질 기둥에는 머리방향세포와 동일한 기능을 수행하는 세포가 있어야 한다. 우리는 이 세포를 정위세포라는 더 일반적인 이름으로 부른다.
6장 개념, 언어, 고차원 사고 = 111
114
모든 지식은 기준틀에 저장된다.
… 생각은 움직임의 한 형태라는 것이다.
생각은 우리가 기준틀에서 연속적인 위치들을 활성화할 때 일어난다.
-기준틀은 단지 물리적 대상뿐만 아니라, 우리가 아는 모든 것의 모형을 만드는 데 쓰인다.
115
피질 기둥은 자신의 입력을 변하게 하는 것이면 무엇이건 그 구조를 발견하고 모형을 만들려고 맹목적으로 시도하는 신경세포들로 만들어진 메커니즘에 불과하다.
앞에서 나는 뇌가 처음에 기준틀을 진화시킨 것은 우리가 세계 속에서 돌아다닐 수 있도록 환경의 구조를 배우기 위해서였다고 상정했다. 그러고 나서 뇌는 동일한 메커니즘을 사용해 물리적 대상의 구조를 배우도록 진화했는데, 그것을 인식하고 조작하기 위해서였다. 이제 나는 우리 뇌가 동일한 메커니즘을 사용해 수학과 민주주의 같은 개념적 대상의 바탕을 이루는 구조를 배우고 나타내기 위해 또 한 번 진화했다고 주장한다.
-생각은 움직임의 한 형태이다
116
만약 우리가 아는 모든 것이 기준틀에 저장된다면, 저장된 지식을 불러낼 때에는 적절한 기준틀의 적절한 위치를 활성화해야 한다. 생각은 신경세포들이 기준틀에서 위치들을 차례로 불러내면서 각 위치에 저장된 것을 떠오르게 할 때 일어난다.
무엇 경로와 어디 경로
117
우리 뇌에는 두 가지 시각 체계가 있다. 눈에서 신피질까지 시신경을 따라가 보면, 그것이 무엇 시각 경로와 어디 시각 경로라는 두 가지 시각 체계로 연결되는 것을 볼 수 있다. 무엇 경로는 뇌 뒤쪽에서 시작해 양옆으로 빙 돌아가는 일련의 피질 영역들로 이루어져 있다. 어디 경로는 마찬가지로 뇌 뒤쪽에서 시작하지만 위쪽으로 올라가는 일련의 피질 영역들로 이루어져 있다.
118
시각뿐만 아니라 촉각과 청각도 무엇 경로와 어디 경로를 담당하는 구역이 있다.
120
뇌에 신체지도가 있다는 개념은 새로운 것이 아니다. 팔다리의 움직임에는 신체 중심 기준틀이 필요하다는 개념 역시 마찬가지이다. 내가 말하고자 하는 요지는 겉모습과 작용 방식이 비슷한 피질 기둥들이 그 기준틀을 어디에 고정하느냐에 따라 다른 기능을 수행할 수 있다는 것이다.
신피질의 기둥들은 자신이 사용해야 할 기준틀의 종류에 대해 선입견이 없을 가능성이 높다. 피질 기둥이 어떤 것의 모형을 배울 때, 배우는 것 중 일부는 차원의 수를 포함해 어떤 것이 좋은 기준틀인지 발견하는 것이다.
장소법
항목들의 목록을 기억하는 비법으로 유명한 장소법 또는 기억의 궁전은 기억하고자 하는 항목들을 자기 집안의 서로 다른 장소에 놓아둔다고 상상하는 방법이다. 항목들의 목록을 떠올리려면, 자신이 집 안을 걸어다닌다고 상상하면서 각각의 장소에 놓아둔 항목들에 대한 기억을 끄집어내면 된다.
… 움직임으로써 회상 행위가 일어난다는 사실에 주목하라. 우리는 자기 몸을 물리적으로 움직이지는 않지만, 정신적으로 집 안을 돌아다닌다.
123
장소법은 무작위로 배열된 명사들의 목록 같은 항목들의 목록을 빨리 암기하는 데 유용하다.
fMRI를 통한 연구
126
… 뇌는 경제나 생태학 같은 개념에는 어떤 종류의 기준틀을 사용할까? 그 일에 사용되는 기준틀이 여러 가지 존재할 수 있는데, 어떤 것은 다른 것보다 더 나을 것이다.
이것은 개념적 지식을 배우기가 어려울 수 있는 한 가지 이유이다.
127
내 주장의 요지는 어떤 분야의 전문가가 되려면 관련 데이터와 사실을 나타내기에 좋은 틀의 발견이 필요하다는 것이다. 옳은 기준틀이 없을 수도 있고, 두 사람이 사실들을 서로 다르게 배열할 수 있다. 유용한 기준틀을 발견하는 것은 배움에서 가장 어려운 부분인데, 우리는 대게 그것을 전혀 의식하지 못한다.
131
신피질에는 언어를 담당한다고 알려진 작은 영역이 두 군데 있다. 베르니케 영역은 언어를 이해하는 일을, 브로카 영역은 언어를 만드는 일을 담당한다고 알려져 있다. 이것은 다소 단순한 설명이다.
… 베르니케 영역과 브로카 영역이 중요한 역할을 하는 것은 사실이지만, 오로지 이 두 영역만 언어를 만들고 이해하는 일을 전담하는 것은 아니다.
언어에 관해 한 가지 놀라운 사실은 베르니케 영역과 브로카 영역이 뇌의 좌반구에만 있다는 점인데, 이것은 언어가 나머지 인지 기능과 다를 수 있음을 암시한다.
133
언어학자들에 따르면, 언어를 정의하는 한 가지 속성은 중첩 구조이다. 예를 들면, 문장은 구로 이루어져 있고, 구는 단어로 이루어져 있으며, 단어는 문자로 이루어져 있다. 규칙을 반복적으로 적용하는 능력인 재귀도 언어를 정의하는 또 하나의 속성이다. 재귀는 문장을 거의 무한한 복잡성으로 구성할 수 있게 해준다.
133
하지만 중첩 구조와 재귀 구조는 언어만의 전유물은 아니다. 사실, 이 세상의 모든 것은 이런 식으로 구성되어 있다.
135
모든 피질 기둥이 기준틀을 사용해 대상의 모형을 만든다는 개념은 언어의 필요와 딱 맞아떨어진다.
전문성
136
어떤 영역에서 전문가가 되려면, 훌륭한 기준틀, 즉 훌륭한 지도를 가져야 한다.
7장 지능에 관한 천 개의 뇌 이론 = 138
138
시작부터 누멘타의 목표는 신피질의 작용 방식을 설명할 광범위한 이론을 만드는 것이었다. 신경과학자들은 매년 뇌의 온갖 세부 내용에 관해 수천 편의 논문을 발표했지만, 모든 세부 내용을 통합할 체계적 이론이 부족했다.
신피질에 관한 기존의 견해
139
오늘날 신피질을 바라보는 가장 보편적인 방법은 신피질이 플로차트와 같다고 보는 것이다. 감각에서 온 정보가 신피질의 한 영역에서 다음 영역으로 지나가면서 단계별로 처리된다. 과학자들은 이것을 특질 탐지기 위계라고 부른다.
141
정상적인 시각은 정적인 과정이 아니라 활동적인 감각-운동 과정이다.
142
눈을 카메라로 생각한다면, 그것은 극심한 어안 렌즈(피사체의 원근감을 극도록 왜곡하는 광각 렌즈)가 달린 카메라이다.
신피질에 대한 새로운 견해
145
한 피질 기둥이 세계 속에 존재하는 모든 대상의 모형을 배울 수는 없다. 그것은 불가능하다. 무엇보다도 한 피질 기둥이 배울 수 있는 대상의 수에는 물리적 한계가 있다. 우리는 아직 그 능력이 어느 정도인지는 모르지만, 우리의 시뮬레이션 결과에 따르면 한 피질 기둥이 복잡한 물체 수백 개를 배울 능력이 있다. 이것은 우리가 아는 사물의 수에 비하면 아주 적다.
146
뇌에서 지식은 분산되어 있다.
뇌에서 지식은 어디에 저장되는가?
147
우리가 이 이론을 천개의 뇌 이론이라 부르는 이유는 이 때문인데, 특정 항목에 관한 지식은 수천개의 보완적 모형에 분산되어 있다.
148
복잡한 시스템은 지식과 권한이 많은 요소에, 하지만 너무 많지는 않은 요소에 분산되어 있을 때 가장 효율적으로 돌아간다.
결합 문제의 해결책
149
우리의 감각 입력은 어떻게 하나의 지각체로 결합될까? 과학자들은 신피질에 들어오는 다양한 입력이 뇌에서 커피 잔 같은 대상이 지각되는 단일 장소로 수렴해야 한다고 오랫동안 가정해왔다. 이 가정은 특질 탐지기 위계 이론의 일부이다. 하지만 신피질의 연결들은 이런 모습을 보이지 않는다. 연결들은 한 장소로 수렴하는 대신에 모든 방향으로 뻗어 간다. 이것은 결합 문제가 수수께끼로 간주되는 한 가지 이유이지만, 우리는 그 답을 제안했는데, 바로 피질 기둥들이 투표를 한다는 것이다. 우리가 느끼는 지각은 피질 기둥이 투표를 통해 이룬 합의의 결과이다.
151
각각의 손가락 혼자만으로는 무엇을 만지는지 알 수 없지만, 다섯 손가락이 정보를 합치면 알 수 있다. 만약 어떤 물체를 한 손가락으로만 만진다면, 그 물체의 정체를 파악하기 위해 손가락을 더 움직여야 한다. 하지만 만약 손 전체로 그 물체를 붙잡는다면, 대개 그 물체의 정체를 즉각 알 수 있다.
뇌에서 투표는 어떻게 일어날까?
153
우리는 장거리 하는 이 세포들이 투표를 한다고 주장한다.
지각의 안정성
154
피질 기둥의 투표는 뇌의 또 다른 수수께끼에 답을 제시한다. 뇌로 오는 입력들이 변하는데도 우리가 지각하는 세계는 왜 안정적으로 보일까?
155
어떤 대상을 인식한다는 것은 피질 기둥들이 투표를 해 그 대상이 무엇인지 합의에 이르렀다는 뜻이다.
156
뇌의 두 부분이 서로 다른 생각을 하고 다른 결론을 내린다는 것은 분명하다. 이 현상은 피질 기둥들의 투표로 설명할 수 있다. 신피질 좌측과 우측 사이의 연결은 투표에 사용된다. 이 부분을 절단하면, 이제 양측이 투표를 통해 합의에 이를 방법이 없어 각자 독립적인 결론을 내리게 된다.
주의
158
뇌는 시각 장면 중 작거나 큰 부분에 주의를 집중할 수 있다. … 뇌가 이 일을 정확하게 어떻게 하는지는 제대로 밝혀지지 않았지만, 이 일에는 뇌에서 시상이라는 부분이 관여한다. 시상은 신피질의 모든 영역과 촘촘하게 연결되어있다.
158
주의는 뇌가 모형을 배우는 방식에서 필수적 역할을 한다.
159
신피질은 모형을 배우는 일을 멈추는 법이 없다. 주의를 옮길 때마다 어떤 것의 모형에 새로운 항목이 추가된다. 모형이 일시적이건 오래 지속되는 것이건 학습 과정은 동일하다.
천 개의 뇌 이론에서의 위계
160
신피질의 해부학적 구조는 두 종류의 연결이 모두 존재한다는 것을 시사한다. 이것을 어떻게 이해해야 할까? 우리 이론은 연결에 대해 다르게 생각하는 방법을 제시하는데, 그것은 위계 모형과 단일 피질 기둥 모형 모두와 양립할 수 있다. 우리는 특질이 아니라 완전한 대상이 위계 단계들 사이에서 전달된다고 제안했다. 신피질은 위계를 사용해 특질들을 조립함으로써 인식할 수 있는 대상으로 만드는 대신에, 위계를 사용해 대상들을 조립해 더 복잡한 대상들로 만든다.
2 기계 지능 = 167
169
역사학자 토머스 쿤은 <과학 혁명의 구조>라는 유명한 책에서 과학의 발전은 대부분 널리 받아들여진 이론적 틀을 토대로 일어난다고 주장했다. 그는 그 이론적 틀을 과학 패러다임이라고 불렀다. 가끔 확립된 패러다임이 무너지고 새로운 패러다임으로 대체되는 일이 일어나는데, 쿤은 이를 과학 혁명이라고 불렀다.
170
지능에 관한 천 개의 뇌 이론은 기계 지능의 미래가 대다수 AI연구자들이 현재 생각하는 것과는 크게 다를 것이라고 시사한다. 나는 AI에 과학 혁명이 일어날 때가 되었다고 믿는다. 앞에서 내가 기술한 지능의 원리들이 그 혁명의 토대가 될 것이다.
8장 AI에는 왜 ‘나’가 없는가? = 175
175
1956년에 시작된 이래로 인공지능 분야는 열정에 휩싸였다가 비관론으로 빠지는 주기를 여러 번 겪었다. AI과학자들은 이것을 ‘AI 여름’과 ‘AI 겨울’이라고 부른다.
AI는 현재 또다시 AI 여름을 맞이했고, 산업계의 기대가 또 한 번 커지고 있다. 현재의 물결을 견인하는 기술은 흔히 딥 런이이라고 부르는 인공 신경망이다.
… 과연 이 기계들이 정말로 지능이 있다고 말할 수 있을까? 대다수 AI 연구자까지 포함해 대부분은 그렇게 생각하지 않는다. 오늘날의 인공 지능은 여러 면에서 사람의 지능에 미치지 못한다.
176
무엇보다도 오늘날의 AI 시스템이 지능이 있다고 간주되지 않는 이유는 AI 시스템은 오직 한 가지 일만 할 수 있는 반면, 사람은 많은 일을 할 수 있기 때문이다. 다시 말해, AI 시스템은 유연하지 않다.
176
AI 연구의 장기 목표는 사람과 같은 지능을 보여주는 기계를 만드는 것이다. 그런 기계는 새로운 과제를 빨리 배우고, 서로 다른 과제들 사이에서 유사점을 파악하고, 새로운 문제를 유연하게 해결할 수 있어야 한다. 이 목표를 현재의 제한적인 AI와 구별하기 위해 ‘인공 일반 지능’, 혹은 줄여서 AGI라고 부른다.
177
인공 일반 지능으로 가는 두 가지 길
1.특정 과제에서 사람보다 월등한 능력을 보여주는 컴퓨터에 초점을 맞추고 있다.
2.유연성에 초점을 맞추는 것.
178
앞선 몇 번의 AI물결에서는 두 번째 길을 선호했다. 하지만 그 목표를 달성하기가 너무나도 어려웠다. 과학자들은 다섯 살 아이만큼 유능하려면 일상 지식을 엄청나게 많이 알 필요가 있다는 사실을 깨달았다. 아이는 세계에 대해 수천 가지를 안다.
179
지식에서 어려운 부분은 사실을 진술하는 것이 아니라, 사실을 유용한 방식으로 나타내는 것이다.
180
아주 쉬운 것처럼 들리지만, ball이 무엇인가처럼 아주 단순한 것을 컴퓨터가 알게 하는 방법은 아무도 찾아낼 수 없었다. 이 문제를 지식 표현이라고 부른다.
181
AI과학자들은 이 언어 신경망이 진정한 지식을 가졌는지, 아니면 단지 수백만 단어의 통계를 기억함으로써 사람을 흉내내는 것인지를 놓고 의견이 갈린다.
AI를 위한 모형으로서의 뇌
184
신피질의 세포들은 동일한 목적을 달성하게 해주는 가상 모형을 배운다.
특수 목적용 AI에서 범용 AI로
185
최초의 전자 컴퓨터는 특정 과제에서 인간 컴퓨터를 대체할 목적으로 설계되었다. 예를 들면, 메시지 해독을 위한 최선의 자동화된 해결책은 오로지 메시지만 해독하는 기계였다. 앨런 튜링같은 컴퓨팅 분야의 개척자들은 ‘범용’ 컴퓨터를 만들어야 한다고 주장했다. 범용 컴퓨터는 어떤 과제라도 해결하도록 프로그래밍할수 있는 전자 기계를 가리켰다. 하지만 당시에는 그런 컴퓨터를 만들 수 있는 최선의 방법을 아는 사람이 아무도 없었다.
186
인공 지능 분야에서도 이와 비슷한 과도기가 닥칠 것이다. 오늘날 우리는 특정 과제를 해결하도록 설계되어 거기에서 최선의 효율성을 보여주는 특수 목적용 AI 시스템을 만들고 있다. 하지만 미래에는 대부분의 지능 기계가 범용 기계가 될 것이다. 즉, 사람에 가깝게 사실상 어떤 것이라도 배우는 능력을 가질 것이다.
188
범용 지능 기계의 필요성은 제한적이며, AI의 응용 분야 중 대부분은 오늘날 우리가 가진 특수 목적용 기술로도 충분히 해결할 수 있다고 생각하는 사람이 있을지 모르겠다. 사람들은 한때 범용 컴퓨터에 대해서도 똑같이 생각했다. 그들은 범용 컴퓨터의 상업적 수요는 일부 고부가 가치 분야에 제한될 것이라고 주장했다. 하지만 실제로는 그 반대가 옳은 것으로 드러났다.
나는 21세기 후반에는 범용 AI가 이와 비슷하게 기계 지능을 지배할 것이라고 믿는다.
지능이 있다고 말할 수 있을 때는 언제인가?
189
그렇다면 기계가 지능이 있다고 인정받으려면 충족해야 할 기준이 있을까? 나는 있다고 생각한다. 나는 지능이 있다고 인정받으려면, 뇌를 기반으로 한 원리를 따라야 한다고 생각한다. 다음에 열거한 네 가지 속성은 모두 뇌가 가진 속성인데, 나는 지능 기계도 이런 속성을 가져야 한다고 믿는다.
나는 내 목록을 AGI를 위한 최소한의 요건, 즉 기준선이라고 생각한다. 오늘날 이런 속성 중 하나라도 충족한 AI 시스템은 거의 없다.
1.끊임없는 학습능력
2.움직임을 통한 학습
3.많은 모형
4.기준틀을 사용한 지식 저장
기준틀의 예
196
지능은 기계가 단일 과제나 심지어 몇몇 과제를 수행하는 능력으로 측정할 수 없다는 점을 또 한 번 강조하고 싶다. 그 대신에 지능은 기계가 세계에 대한 지식을 배우고 저장하는 방식으로 결정된다. 우리는 한 가지 일을 특별히 잘해서가 아니라 사실상 어떤 것이라도 배울 수 있는 능력이 있기 때문에 지능이 있다고 말한다.
9장 기계가 의식을 가질 때 = 197
인식
201
만약 과학 연구와 알려진 물리학 법칙으로 의식을 설명할 수 없다고 믿는 사람이라면, 내가 뇌의 상태를 저장하고 다시 끄집어내는 것이 필요함을 보여주긴 했지만, 그것만으로 충분하다는 것을 증명하지는 못했다고 주장할 수도 있다. 만약 당신이 그런 견해를 가졌다면, 왜 그것이 충분하지 않은지 입증할 책임은 당신에게 있다.
202
감각질은 감각 입력이 어떻게 지각되고 어떻게 느껴지는지를 나타내는 이름이다.
이것들은 어리석은 질문처럼 보일 수 있지만, 뇌가 머리뼈 속에 자리잡고 있고 거기에 들어오는 입력은 극파에 불과한다고 상상하면, 불가사의한 느낌이 들 수 있다. 우리의 지각된 감각은 어디서 나오는 것일까? 감각질의 기원은 의식의 수수께끼 중 하나로 간주된다.
감각질은 뇌가 만드는 세계 모형의 일부이다
202
감각질은 주관적이다. 이 말은 감각질이 내부적 경험이라는 뜻이다.
205
모든 감각질이 학습되는 것은 아니다. 예를 들면, 통증 감각은 거의 틀림없이 선천적인데, 신피질이 아니라 특별한 통증 수용체와 오래된 뇌의 구조를 통해 느끼는 감각이다.
의식의 신경과학
206
(그라지아노) 그는 뇌의 신체 모형이 우리에게 팔이나 다리가 있다고 믿게 하는 것처럼 뇌의 주의 모형은 우리에게 의식이 있다고 믿게끔 한다고 주장한다.
기계의 의식
208
죽음에 대한 두려움과 상실에 대한 슬픔은 기계가 의식이나 지능을 가지는 데 꼭 필요한 요소가 아니다. 우리가 일부러 기계에 두려움과 감정에 상응하는 것을 집어넣지 않는 한, 기계는 설사 작동이 멈추거나 분해되거나 폐기되더라도 전혀 개의치 않을 것이다.
생명의 불가사의와 의식의 불가사의
209
얼마 전까지만 해도 “생명이란 무엇인가?”라는 질문은 “의식이란 무엇인가?”라는 질문만큼 불가사의했다.
… 유전자와 DNA가 발견되고 생화학 분야가 발전하면서 이제 우리는 생물을 설명 불가능한 것으로 여기지 않는다.
210
어느 시점에 생명은 생물학과 화학으로 이해할 수 있다는 사실이 분명해졌다. 엘랑 비탈 같은 개념은 역사의 유물이 되었다.
10장 기계 지능의 미래 = 211
211
나는 이번 세기에,어쩌면 향후 20~30년 사이에 우리가 남아 있는 장애물을 극복하고 기계 지능의 시대로 들어설 것이라고 확신한다.
212
집적회로와 반도체 메모리, 무선 전화 통신, 공개 키 암호, 인터넷 등 컴퓨팅의 가속화를 추진한 혁신들을 생각해 보라. 1950년대에 살았던 사람 중 이런 변화와 그 밖의 많은 발전을 예견한 사람은 아무도 없었다. 마찬가지로 컴퓨터가 미디어와 통신과 상업을 어떻게 변화시킬지 제대로 예견한 사람은 아무도 없었다. 나는 지금 우리도 70년 뒤에 지능 기계가 어떤 모습일지, 그리고 우리가 그것을 어떻게 사용할지 제대로 알 수 없다고 생각한다.
뇌가 지능을 만들어내는 방식을 이해하면, 어떤 일이 가능하고 어떤 일이 불가능하며, 어떤 진전이 어디까지 가능한지 알 수 있다. 이것이 이 장의 목표이다.
지능 기계는 사람과 같지 않을 것이다.
213
지능은 시스템이 세계 모형을 배우는 능력이다.
신피질은 세계 모형을 배우는데, 세계 모형 자체는 목표나 가치가 없다. 우리의 행동을 이끄는 감정은 오래된 뇌에 의해 결정된다.
214
지능 기계를 설계하는 비법은 세 부분으로 나눌 수 있는데, 체화와 오래된 뇌 부분들과 신피질이 그것이다. 각 요소마다 허용 범위가 상당히 넓기 때문에 지능 기계는 많은 종류가 존재할 수 있다.
1. 체화
지능기계는 또한 센서와 그것들을 움직이는 능력이 필요하다. 이것을 체화라고 부른다.
216
사람의 지능에 가깝거나 혹은 그것을 능가하는 기계는 우리처럼 훨씬 큰 센서 배열을 가져야 할 것이다.
2.오래된 등가물.
218
지능기계를 만들려면, 오래된 뇌 부분에 존재하는 몇 가지가 필요하다. … 하나는 기본적인 움직임이다.
219
신피질은 완전히 새로운 행동을 만들어내지 않는다. 그 대신에 기존의 행동들을 묶어 새롭고 유용한 방식으로 펼치는 법을 배운다.
221
지능 기계 역시 목표와 동기가 필요하다.
3.신피질 등가물
223
속도
신경세포는 유용한 어떤 일을 하는 데 적어도 5ms가 걸린다. … 하지만 상상력의 날개를 활짝 펼치기 전에 지능 기계 중 일부가 생물학적 뇌보다 100만 배 빨리 작동한다고 해서 전체 지능 기계가 100만 배 빨리 돌아가거나 지식을 그만큼 빨리 습득한다는 뜻은 아니라는 점을 지적하고 싶다.
용량
228
뇌는 어린 시절의 경험을 바탕으로 어떤 연결이 유용하고 어떤 연결이 유용하지 않은지 배우는 것으로 보인다. 하지만 사용되지 않은 배선을 제거하는 것은 불리한 점도 있다. 나중에 새로운 종류의 지식을 배우기가 힘들어진다. 예를 들어 어린 시절에 여러 언어에 노출되지 않는다면, 여러 언어에 능통할 수 있는 능력이 감소한다.
지능 기계는 배선과 관련된 이러한 제약이 없다. 예를 들면, 우리 팀이 만드는 신피질의 소프트웨어 모형은 두 신경세포 집단들 사이의 연결을 즉각 수립할 수 있다.
11장 기계 지능의 실존적 위험 = 232
234
기계지능의 지각된 실존적 위험은 대체로 두 가지 염려를 기반으로 한다. 첫째는 지능 폭발(기술의 특이점)이다.
두 번째는 목표 불일치라 부르는데, 지능 기계가 우리의 안녕에 어긋나는 목표를 추구하지만 우리가 그것을 저지할 수 없는 시나리오를 가리킨다.
이 모든 시나리오의 바탕에 자리잡고 있는 가정은 우리가 기계에 대한 통제력을 잃는다는 것이다.
지능 폭발 위험
235
새로운 개념과 기술을 배우려면, 극소수 예외를 제외하고는 세계와 물리적으로 상호 작용할 필요가 있다.
… 뇌가 아무리 크고 빠르다 하더라도, 단순히 생각만으로는 외계 행성의 분포와 조성을 절대로 알 수 없다. 발견에서 관찰 단계를 건너뛰는 것은 불가능하다.
… 이러한 감각-운동 관계를 배울 수 있는 유일한 방법은 연습이다.
237
수학 같은 일부 영역에서는 지능 기계가 사람보다 훨씬 빨리 배울 수 있다. 하지만 대다수 분야에서는 학습 속도가 세계와 물리적으로 상호 작용해야 하는 필요성 때문에 제한된다. 따라서 기계가 갑자기 우리보다 훨씬 많은 것을 알게 되는 지능 폭발은 일어날 수 없다.
반론
243
하지만 기계 지능의 위험과 혜택을 놓고 논의를 계속하려고 한다면, 세 가지를 분명히 구분할 것을 권하고 싶다. 그 세가지는 바로 복제와 동기와 지능이다.
복제: 자기 복제 능력이 있는 것은 무엇이건 위험하다. 인류는 생물학적 바이러스 때문에 멸종할 수 있다. 컴퓨터 바이러스는 인터넷을 붕괴시킬 수 있다. 사람이 무리를 해가며 억지로 그렇게 만들지 않는 한, 지능 기계는 자기 복제 능력이나 자기 복제 욕구를 갖지 않을 것이다.
동기: 생물학적 동기와 추동은 진화의 산물이다. 진화는 특정 추동을 가진 동물이 다른 동물보다 복제 능력이 더 뛰어나다는 사실을 발견했다. 복제나 진화를 하지 않는 기계에 예컨대 다른 존재를 지배하거나 노예로 만들려는 욕구가 갑자기 발달하는 일은 없을 것이다.
지능: 셋 중에서 지능이 가장 온순하다. 지능 기계가 스스로 자기 복제를 시작하거나 자발적으로 추동과 동기를 발달시키는 일은 없을 것이다. 그런 일은 우리가 원해서 억지로 동기를 설계해 지능 기계에 집어넣어야만 일어날 것이다. 하지만 지능 기계가 자기 복제와 진화를 하지 않는 한, 그 자체로는 인류에게 실존적 위험이 되는 일은 없을 것이다.
244
우리는 통제력을 잃지 않을 것이고, 지능 폭발 지지자들이 두려워하는 것처럼 그 어떤 것도 급속하게 일어나는 일은 없을 것이다. 만약 우리가 지금 출발한다면, 위험과 혜택을 구분하고, 어떤 방식으로 앞으로 나아가길 원하는지 결정할 시간이 많이 남아 있다.
3 인간 지능 = 247
251
내 목표는 우리가 어떻게 해야 하는지 처방을 제시하는 것이 아니라, 충분히 논의되지 않았다고 생각하는 쟁점들에 대한 대화를 장려하는 것이다. 뇌의 새로운 이해는 우리가 직면한 위험과 기회를 새로운 눈으로 바라볼 기회를 제공한다.
12장 틀린 신념 = 252
253
빛이나 촉감이나 소리가 뇌에 들어오지 않는다는 사실에 또 한 번 유의하라. 우리의 심적 경험을 구성하는 지각은 감각 신경을 통해 들어온다. 신경은 단지 극파만 전달할 뿐이다. 그런데 정작 우리가 지각하는 것은 극파가 아니다. 우리가 지각하는 것은 뇌가 만들어낸 것이다. 심지어 빛과 소리, 촉감처럼 가장 기본적인 느낌조차 뇌가 만들어낸 것이다. 이것들은 오로지 뇌의 세계 모형에만 존재한다.
실제 세계에서 빛은 광범위한 진동수로 존재하지만, 우리 눈은 그중 극히 좁은 부분에만 민감하다. 마찬가지로 우리 귀는 전체 음파 진동수 중에서 아주 좁은 범위만 포착할 수 있다. 따라서 우리가 지각하는 빛과 소리는 우주에 존재하는 전체 빛과 소리 중 일부에 불과하다. 만약 우리가 모든 전자기 복사 진동수를 감지할 수 있다면, 방송용 전파와 레이더 전파뿐만 아니라 X선까지 볼 수 있을 것이다. 감각 기관이 달라지면, 동일한 우주라도 우리가 지각하는 경험이 달라질 것이다.
우리는 시뮬레이션 속에서 살아간다
254
따라서 우리가 지각하는 세계는 실제 세계의 시뮬레이션이다.
255
모형은 틀릴 수도 있다. 예를 들면, 팔다리를 잃은 사람이 그 팔다리가 여전히 붙어 있는 것으로 지각할 때가 많다. 뇌의 모형에는 잃어버린 팔다리와 그것이 있었던 위치가 포함되어 있다. 그래서 더 이상 그 팔다리가 존재하지 않더라도, 당사자는 그것을 지각하고 그것이 여전히 붙어 있다고 느낀다. 환상 사지가 다른 위치로 ‘옮겨 갈’ 수도 있다.
258
(착시현상)
사람들은 이 현상을 착각이라고 부르면서 뇌가 속아 넘어갔다고 암시하지만, 사실은 그 반대이다. 우리 뇌는 체스판 패턴을 정확하게 지각하며, 음영 차이에 속지 않는다. 체스판 패턴은 음영이 있건 없건 체스판 패턴이다. 뇌의 모형은 체스판 패턴에는 밝은 사각형과 어두운 사각형이 교대로 배열되어야 한다고 말한다. 그래서 ‘어두운’ 사각형과 ‘밝은’ 사각형에 나오는 빛이 동일한데도 불구하고, 우리는 이 패턴을 그렇게 지각하는 것이다.
우리 뇌 속에 있는 세계 모형은 대개는 정확하다. 그 모형은 우리의 현재 관점이나 상충하는 데이터에 상관없이 실재의 구조를 정확하게 포착한다. 하지만 뇌의 세계 모형은 완전히 틀린 것일 수도 있다.
틀린 신념
261
기후 변화를 부정하는 사람들은 압도적인 물리적 증거 앞에서 어떻게 틀린 신념을 유지할 수 있을까? 이들은 편평한 지구 모형을 믿는 사람과 비슷하다. 이들은 대다수 사람들을 믿지 않으며, 개인적으로 관찰한 것과 비슷한 생각을 가진 사람들이 말해주는 것에만 의존한다.
265
생명의 본질은 복제이다.
언어와 틀린 신념의 확산
266
우리가 아는 것 중에서 참과 거짓을 구별할 수 있는 방법, 즉 우리의 세계 모형에 오류가 있는지 확인할 수 있는 방법은 오직 한 가지뿐이다. 그것은 자신의 신념에 반대되는 증거를 적극적으로 찾는 것이다. 자신의 신념을 지지하는 증거를 찾는 것도 도움은 되지만 결정적인 것이 못 된다. 하지만 반대 증거는 우리 머릿속의 모형이 옳지 않으며 수정할 필요가 있음을 입증한다. 자신의 신념이 틀렸음을 입증하는 증거를 적극적으로 찾는 것은 바로 과학적 방법이다. 그것은 우리가 알고 있는 것 중에서 우리를 진실에 다가가게 하는 유일한 접근법이다.
13장 인간 지능의 실존적 위험 = 269
270
뇌와 관련된 기본적인 위험 두 가지를 중점적으로 살펴볼 것이다.
첫 번째 위험은 오래된 뇌와 관련이 있다. 비록 신피질은 우리에게 더 나은 지능을 주긴 했지만, 훨씬 더 오래전에 진화한 30%의 뇌는 더 원시적인 욕구와 행동을 만들어낸다. 신피질은 지구 전체를 변화시킬 수 있는 강력한 기술을 발명했지만, 세계를 변화시키는 이 기술들을 제어하는 인간의 행동은 이기적이고 근시안적인 오래된 뇌에 지배될 때가 많다.
두 번째 위험은 신피질과 지능과 더 직접적인 관련이 있다. 신피질은 속을 수 있다. 신피질은 세계의 기본적인 측면들에 대해 틀린 신념을 형성할 수 있다. 그리고 우리는 틀린 신념을 바탕으로 우리 자신의 장기적 이익에 반하는 행동을 할 수 있다.
오래된 뇌의 위험
272
오래된 뇌는 그 자체만으로는 아무런 실존적 위험이 되지 않는다. 오래된 뇌의 행동은 사실 성공적인 적응이다. 만약 과거에 세력권을 확보하기 위해 한 부족이 다른 부족의 구성원을 모두 죽였다고 하더라도, 그것은 전체 인류에 큰 위협이 되지 않았다. 그저 승자와 패자가 있었을 뿐이다. 한 사람 또는 몇 사람의 행동은 전체 지구의 일부와 전체 인류의 일부에만 영향을 미쳤다. 오늘날 오래된 뇌가 실존적 위험이 된 이유는 신피질이 지구 전체를 변화시키고 심지어 파괴할 수 있는 기술들을 만들어냈기 때문이다.
277
신피질이 오래된 뇌를 누를 수 있는 방법
인구 과잉 문제에서 이상한 것은 인구를 줄여야 한다는 개념 자체는 논란이 없지만, 현재의 시점에서 그것을 달성하는 방법에 관한 이야기는 사회적으로나 정치적으로나 받아들여지지 않는다는 점이다.
단순하면서도 현명한 해결책은 모든 여성에게 자신의 생식 능력을 통제할 능력을 보장하고, 원하면 선택권을 행사할 권한을 주는 것이다.
틀린 신념의 위험
279
신피질은 놀라운 능력에도 불구하고 속아 넘어갈 수 있다. 사람들은 세계에 관한 기본적인 사실이 틀린 것인데도 쉽게 속아 넘어가 그것을 믿을 수 있다.
14장 뇌와 기계의 결합 = 288
288
뇌를 업로드하려면 뇌에 들어 있는 세부 내용을 모두 기록하고, 그것을 사용해 컴퓨터에서 뇌를 시뮬레이션해야 한다. 그 시뮬레이션은 당신의 뇌와 동일할 것이고, 따라서 ‘당신’은 컴퓨터 속에서 살아가게 될 것이다. 그 목표는 정신적, 지적, ‘당신’을 생물학적 신체에서 분리하는 것이다. 그러면 당신은 영원히 살 수 있다. 심지어 지구에서 멀리 떨어진 컴퓨터 속에서도 살 수 있는데, 그러면 지구가 멸망하더라도 당신은 살아남을 수 있다.
290
죽음은 기묘한 현상이다. 한편으로는 우리의 오래된 뇌는 죽음을 두려워하도록 프로그래밍되어 있지만, 우리 몸은 죽도록 프로그래밍되어 있다. 왜 진화는 우리를 불가피한 죽음을 두려워하도록 만들었을까? 진화가 이 상충되는 전략을 선택한 데에는 충분히 타당한 이유가 있을 것이다.
우리가 자식을 낳은 뒤에 죽도록 프로그래밍된 것은 바로 이 때문이다. 즉, 다른 유전자 조합들이 살아갈 자리를 만들어주기 위해서이다.
291
그런데 최근에 새로운 일이 일어났다. 우리 종이 똑똑해졌다.
… 우리의 지식과 지능 덕분에 우리는 유전자에게 최선의 이익이 되지 않는 방식의 행동을 고려하게 되었는데, 예컨대 산아 제한을 하거나 우리 마음에 들지 않는 유전자를 변형하게 되었다.
뇌를 컴퓨터에 업로드하기
293
당신을 업로드하려면, 당신의 뇌 중에서 얼마나 많은 부분을 업로드해야 할까?
…만약 모든 것을 포함시키지 않으면, 업로드한 뇌는 심각한 문제가 생길 수 있다. 환상 사지에서 심한 고통을 느낄 수 있다는 사실을 떠올려보라. 즉, 사라진 팔다리에서도 통증을 느낀다. 만약 신피질을 그대로 업로드한다면, 거기에는 자기 몸의 모든 부분에 해당하는 표상이 있을 것이다. 거기에 몸이 없다면, 모든 곳에서 심한 통증을 느낄지 모른다. 뇌의 나머지 모든 부분에도 비슷한 문제가 생길 수 있다. 만약 뭔가를 빠뜨린다면, 뇌의 다른 부분이 혼란을 일으켜 제대로 작동하지 않을 수 있다. 만약 당신을 업로드하려고 한다면, 그리고 업로드한 뇌가 정상적으로 작동하기를 원한다면, 뇌 전체를 하나도 빼놓지 않고 다 업로드해야 한다.
296
컴퓨터 속의 당신은 낡은 생물학적 인간이 자신이라고 주장하는 것이 불쾌할 수 있다.
게대가 당신의 뇌를 일찌감치 업로드하라는 압력을 받을 수 있다. 예를 들어 컴퓨터 속 당신의 지적 건강이 업로드 당시의 생물학적 당신의 지적 건강에 달려 있다고 상상해 보라. 그래서 복제되어 불사의 존재로 살아갈 삶의 질을 극대화하려면, 지적 건강이 가장 좋을 때, 예컨대 30세 때 뇌를 업로드해야 한다.
297
생물학적 당신은 천천히 나이를 먹으면서 죽음을 향해 다가가는 동안 네 명의 컴퓨터 속 당신이 제각각 별개의 삶을 살아가는 모습을 지켜본다. 공동의 ‘당신’ 같은 것은 존재하지 않으며, 제각각 별개인 다섯 명의 개인이 있을 뿐이다. 이들은 처음에는 같은 뇌와 기억을 가지고 출발했지만, 즉각 별개의 존재가 되어 그 후로 각자 별개의 삶을 살아간다.
298
뇌를 컴퓨터에 업로드해 자신의 복제를 만드는 것은 아이를 낳는 것과 마찬가지로 진정한 불사에 이르는 방법이 아니다. 자신을 복제하는 것은 길이 연장 되는 것이 아니라 나뉘는 것과 같다. 갈림길 이후에는 의식이 있는 존재 둘이 각자의 삶을 살아가게 된다. 일단 이것을 깨달으면, 뇌를 업로드한다는 개념은 매력이 사라지기 시작한다.
뇌와 컴퓨터의 결합
298
뇌를 업로드하는 방법의 대안은 뇌를 컴퓨터와 결합하는 것이다.
301
나는 ‘뇌를 업로드한다’는 개념은 실현될 가능성이 낮다고 생각하는데, 이익은 별로 없는 반면에 그것을 이루기는 너무나도 어렵기 때문이다. ‘뇌와 컴퓨터의 결합’ 개념은 제한된 목적으로 실현될 가능성이 있지만, 뇌와 기계가 완전히 결합되는 단계까지는 이르지 못할 것이다. 그리고 뇌가 컴퓨터와 결합된다고 하더라도, 생물학적 뇌와 신체는 여전히 남아 쇠퇴하고 죽어갈 것이다.
그리고 중요한 것은 이 중 어느 것도 인류가 직면한 실존적 위험을 해결하지 못한다는 사실이다. 만약 우리 종이 영원히 살 수 없다면, 현재의 우리 존재를 의미 있게(심지어 우리가 사라진 뒤에도) 만들기 위해 우리가 지금 할 수 있는 일이 있을까?
15장 인류를 위한 상속 계획 = 302
304
상속 계획은 우리가 살아 있는 동안 나 자신이 아니라 미래에 혜택을 줄 일을 하는 것이다.
305
인류를 위한 상속 계획은 누구에게 혜택이 돌아갈까? 인류는 절대로 아닐 텐데, 우리가 모두 사라진다는 것이 전제로 깔려 있기 때문이다.
320
인류를 위한 상속 계획은 개인을 위한 상속 계획과 비슷하다. 우리는 우리 종이 영원히 살기를 원하고, 어쩌면 그런 일이 일어날 수도 있다. 하지만 그런 기적이 일어나지 않을 경우에 대비해 계획을 세워두는 것이 사려 깊은 행동이다. 나는 우리가 추구할 수 있는 아이디어를 여러 가지 제시했다. 하나는 지구에서 미래의 지능 생명체가 인류에 관한 사실을 배울 수 있는 방식으로 우리의 역사와 지식을 기록으로 보관하는 것이다. 또 하나는 오래 지소고디는 신호를 만들어 다른 시간과 다른 공간에 존재하는 지능 생명체에게 지능을 가진 인류가 태양이라는 별 주위에 한때 살았다는 사실을 알리는 것이다. 오래 지속되는 신호의 아름다움은 우리에게 지금 여기서 우리보다 앞서 존재한 외계 지능 생명체의 발견에 도움을 준다는 데 있다.
16장 유전자 대 지식 = 322
322
우리는 유전자의 종으로 지금 이 자리에 있지만, 오래된 뇌와 새로운 뇌 사이의 권력 균형이 변하기 시작했다.
323
우리는 딜레마에 빠졌다. ‘우리’-신피질에 있는, 지능을 지닌 우리 자신의 모형-는 갇혀 있다.
328
설령 우리가 이것을 국가적 또는 국제적 최우선 과제로 삼지 않더라도, 결국에는 시장의 힘이 기계 지능과 로봇공학의 발전을 위해 투자할 것이다.
328
설령 우리가 지능 로봇 노동자를 만들어 화성을 지구화하고 인간 식민지를 건설한다 하더라도, 한 가지 문제가 남아 있다. 화성으로 이주하는 사람들은 지구에 남아 있는 사람들과 똑같을 것이다. 그들 역시 오래된 뇌와 그에 수반된 온갖 복잡한 문제와 위험을 지니고 있다. 화성에서 살아가는 사람들은 세력권을 놓고 싸우고, 틀린 신념을 바탕으로 결정을 내리고, 아마도 그곳에 사는 사람들에게 새로운 실존적 위험들을 만들어낼 것이다.
우리의 미래 선택하기
331
우리의 미래가 어떻게 전개될지에 관심을 가진 유일한 존재는 우리 뿐인 것으로 보인다. 유일하게 바람직한 미래는 바로 우리가 바라는 것이다.
332
환경 보호 운동의 핵심은 자연 보호보다는 우리가 결정하는 선택에 있다. 대체로 환경 운동가들은 미래의 인류에게 이익이 되는 선택을 한다.
340
지능 기계를 만드는 한 가지 목표는 사람이 이미 하고 있는 것과 같은 일을 하게 하는 것이다. 그 일은 바로 복제를 만들고 확산시킴으로써 지식을 보존하는 것이다.
목적과 방향이 있는 미래
344
유전자는 그저 복제 능력이 있는 분자일 뿐이다.
지식은 이와 다르다. 지식은 방향성과 목표가 있다.
346
유전자가 좌우하는 미래는 방향성이 거의 없거나 전혀 없으며, 목표는 오로지 단기적인 것만 있을 뿐이다. 지식의 최대 이익을 위해 설계된 미래는 방향성과 목표가 모두 있다.
Google Scholar 논문 검색기.
Flâneur 