이진경 장병탁의 선을 넘는 인공지능

이진경 , 장병탁 , 김재아 지음

김영사 2023년 06월 30일 출간 종이책 : 2023년 07월 08일 출간

작품소개

책소개

상식과 통념을 깨는 파격적인 사유로 늘 신선한 충격을 선사하는 철학자 이진경과 국내 AI 최고 권위자이자 AI의 새 길을 개척하는 공학자 장병탁이 나눈, 인공지능에 관한 색다르고 도발적인 이야기. 카오스재단 팀장을 역임했던 SF 소설가 김재아가 AI에 관한 소설을 쓰기 위해 2년여간 인공지능에 관한 책을 읽고 강연을 찾아다닌 끝에, 다른 누구보다 전문적이면서 관점이 남다른 두 사람을 만났다. 그의 아이디어로 시작된 이 특별 대담은 1년 6개월에 걸쳐 다채롭고 유기적인 주제로 열다섯 차례 진행되었다.
‘신체’라는 공통의 관심사로 모인 두 저자는 각자의 영역인 철학과 공학뿐 아니라 과학 ㆍ 수학 ㆍ 사회학 ㆍ 인류학 ㆍ 예술 ㆍ 환경 등 다양한 분야를 넘나들며 인공지능에 대한 사유를 거시적이고 입체적으로 펼쳐낸다. ‘인공지능이란 무엇인가’에 대한 논의를 시작으로, 지능 ㆍ 인지 ㆍ 감각 ㆍ 지각 ㆍ 감정 ㆍ 의식 ㆍ 지아 ㆍ 의지 ㆍ 이해 등으로 사유를 확장해나가며, 신체를 가지고 여러 감각 정보를 센싱하고 종합하여 학습뿐 아니라 데이터마저 스스로 생성해나가는 ‘신체 기반 인공지능(Embodied AI)’의 필요성을 강조한다. 또한 기술 발전에 대한 열광과 흥분 뒤에 가려진, 현재 인공지능이 환경에 미치는 영향에 대해서도 짚어본다. 마지막으로 현재 생성형 AI의 기술 수준이 어느 정도까지 왔는지도 현실적으로 살펴본다. 인공지능에 대한 지금껏 들어보지 못한 새로운 이야기를 접하고 싶다면 이 책을 펼쳐보라.

목차

서문 | 당신이 할 예상 질문, 그 너머
1. 인공지능이란, 아니 지능이란 무엇인가?
2. 인간은 얼마나 특별한가?
3. 인공지능에게 몸을 허하라!
4. 생명 없는 지능과 마음의 발생학
5. 감각과 언어 사이에서
6. 기계는 인간을 이해할 수 없다고?
7. 기계적 감각과 감정 기계
8. 인공지능은 사랑 기계를 꿈꾸는가?
9. 답을 찾는 속도와 답을 지우는 능력
10. 리얼리즘의 역설과 인공지능
11. 인간의 에이전트와 기계의 에이전트
12. 기계와 인간 혹은 우정의 에티카
13. 인공지능은 노동을 먹어치우는가?
14. 인공지능의 미래, 미래의 인공지능
부록 | ChatGPT, 특이점이 찾아온 것인가?

책 속으로

* ‘확장된 마음’이나 ‘체화된 인지’는 인지의 발생 요인이 신체임을 강조하죠. 우리는 인지하고 판단하는 게 의식(뇌)이라고 생각하지만, 사실은 신체일 때가 더 많아요. ‘확장된 마음’이나 ‘체화된 인지’의 주어는 신체라 해도 좋을 겁니다. 유기체 전체가 아니라 신체 일부분의 인지이자 판단인데, 이것이 뇌로 하여금 ‘상식’을 형성하게 하고 필요한 지식을 찾게 만들죠. _p. 33

* 제가 요즘 연구하는 게 완전 자율학습하는 기계인데, 신체가 있으면 설명해줄 필요가 없죠. 직접 들어보면 되니까요. 물론 사고 칠 수 있어요. 들다가 깨뜨릴 수도 있죠. 아이들이 그렇게 학습하잖아요. 스스로 실험하면서 학습해나갈 수 있어요. 이처럼 사람이 데이터를 제공해주는 것이 아니라 그 데이터조차 스스로 만드는 인공지능을, 저는 머신러닝이 아니라 ‘러닝머신’이라고 부릅니다._p. 59

* 그렇게 서로에게 맞추어주며 함께 생존하는 한에서 우리는 개체로 존재합니다. 유기체는 각자가 균형을 이루는 협조를 통해 생존하는 겁니다. 물론 그 와중에 자신이 원하는 것만을 배타적으로 고집하는 부분이 생겨나기도 합니다. 약물에 중독된 세포, 단맛에 길든 기관처럼요. 자아는 이런 유기체 수준에서 개체 생존을 지속하려는 의지의 작용이라 할 수 있습니다. _p. 149

* 그런데 언어화라는 건 뭘까요? 맛으로 치면 술맛이 비슷한 것끼리 하나로 묶어서 하나의 범주 안에 넣는 거죠. 유사한 특징만 남기고 차이들을 모두 삭제하는 거예요. (…) 언어와 기호는 특정한 것만 남겨요. 언어나 기호를 통해 우리는 무언가를 지각하고 분류하고 인식하지만, 그것만 남기고 다른 건 모두 잃어버리는 거죠. _p. 119

* 정말 알파고가 바둑을 알고 둔다는 말이냐고 묻는다면, 증명할 길은 따로 없어요. 그러나 저는 차라리 묻고 싶어요. 바둑을 모르고 둔다는 말이냐고, 바둑을 저렇게 잘 두는데 왜 바둑을 모르면서 둔다고 하냐고, 바둑을 안다는 게 도대체 뭐냐고요. (…) 상대방의 수에 적절히 반응하여 승패를 다툴 수 있다면, 바둑을 안다고 하기에 충분해요. _p. 131

* 사람은 텍스트로만 배우는 게 아니잖아요. 텍스트를 보고 배울 때조차 기존 체험과 종합하죠. 신체를 통해 얻은 정보들을 텍스트 형태의 지식과 결합시켜 내재화해요. (…) 그러나 기계는 텍스트 자체만을 보죠. (…) 언어를 통해 학습할 때조차 신체와 관련된 원초적 감각이 기반이 되어서 녹아들어야 하는데, 그게 안 되는 거예요. 이 점이 현재 AI의 가장 큰 한계로 보여요. _p. 151

* 지금 예술은 기계와 인간의 협업이에요. 중요한 건, 인간과 기계가 협업할 때 ‘어떻게 하면 좀 더 창조적이고 예술적인 것들을 만들어낼 수 있을까’ 하는 질문이죠. 그러나 여전히 우리는 인간이 더 잘할까, 기계가 더 잘할까 하는 질문만 던지고 있어요. 사실 기계들이 예술을 할 수 있을까 없을까 하는 질문도 유치하기는 비슷한 거 같아요. 지금도 그렇고 이후에도 그렇고 인간과 기계는 함께 작업하게 될 텐데 말이에요. _p. 212

* 책임의 개념을 적용하기엔 기술적 어려움도 있어요. 책임을 물으려면 그 대상에게 자기반성, 자기성찰 같은 능력이 있어야 해요. (…) 다시 말해 상대방의 입장에 서볼 수 있어야 하는데, 아직 인공지능은 그런 능력이 없어요. 어떻게 보면 가장 어려운 것 중 하나가 상대 모델을 갖는 거예요. 사람은 사회적인 모델이 있으니까 상대를 다치게 하지 않죠. _p. 249~250

* ChatGPT가 보여준 능력은 정말 놀랍긴 해요. 다만 인간 수준의 인공지능에 도달하기 위해서는 여전히 부족해요. 신체를 갖고 환경과 상호작용하면서 데이터를 직접 생성해내고, 동시에 이를 통해 학습해 나가는 능력이 필요하죠. 그렇게 된다면 지금보다 훨씬 더 정교하고 정확한 인공지능 서비스가 가능해질 겁니다. ChatGPT의 등장은 신체를 가진 인공지능의 필요성을 더욱 보여줘요. _p. 310

출판사 서평

★★인공지능에 관한 가장 이상적이고 현실적인 책★★
★★철학자와 공학자의 지적 콜라보레이션★★
★★뇌과학자 장동선 박사 강력 추천!★★

2022년 11월 공개된 ChatGPT는 그동안 어떤 인공지능도 보여주지 못한 ‘그럴듯함’으로 전 세계인을 놀라게 했고, 그 후 이를 수많은 매체에서 앞다투어 다루며 장밋빛 미래를 예고했다. 물론 ChatGPT의 퍼포먼스가 지금까지 나온 범용 인공지능(AGI) 중 가장 뛰어나다고 할 수 있지만, 텍스트나 이미지 등 기존에 있는 (빅)데이터를 학습하고 이를 기반으로 결과물을 생성하는 기존 인공지능 메커니즘을 따르기 때문에, 신뢰성, 편향성, 조작 가능성 등의 이슈가 여전히 존재한다. 또한 기계가 인식할 수 있도록 각각의 정보에 레이블을 일일이 달아줘야 하는 번거로운 과정 또한 필요하다. 이를 극복할 수 있는 방법은 없을까? 장병탁 교수는 인간의 학습 방법에서 그 실마리를 찾는다. 그는 현재 인공지능 기술이 인간의 신경망을 모방해 놀라운 발전을 이뤄냈지만, 인간과 같은 방식으로 학습하는 것은 아니라고 강조한다. 딥러닝이라고 흔히들 알고 있는 인공신경망은 인간이 인지하고 학습하고 기억하는 수많은 방식 중 하나를 차용한 것일 뿐이며, 이 과정에서 많은 정보가 유실되고 만다.

“정보 패턴이 신경망의 원리가 된 건 반복 사용되는 신경망의 연결 강도가 강화된다는 헵의 규칙 때문인데, 이것도 신경세포들을 통과한 신호가 뭔지는 모른 채 다만 자주 사용하면 연결망이 강해진다는 것만 ‘추상’한 거고, 많은 데이터가 망실되며 얻어진 정보죠.” _p. 70

왜 인공지능에게 신체가 필요한가?
인간은 언어나 지식, 추상적 인지 기능조차 현실 속 신체를 통해서 체득한다. 우리가 ‘사과’라는 글자를 볼 때, 사과의 형체뿐 아니라 색깔, 맛, 식감, 향기, 감촉 등을 동시에 떠올리는 것이 그 예다. 인간은 이러한 신체 경험을 기반으로 학습하기 때문에 우리는 모호하게 대충 말해도 의사소통이 가능하다. 하지만 인공지능은 현실 속에서 체화한 언어가 아닌 기호로서의 언어만 학습하기 때문에, 통계적 확률 계산으로 그저 ‘그럴듯한’ 결과물을 내놓을 뿐이다. 따라서 인공지능이 제대로 된 성능을 발휘하기 위해서는 무수한 변칙적인 데이터와 이를 처리하는 연산 능력이 요구된다.

“인간의 언어가 모호한 이유는 그러한 형태가 진화적으로 효율적이기 때문이에요. 로봇한테 ‘물 좀 줘!’를 설명하려면, ‘앞으로 50cm 가서, 2cm 앞에 물컵을 잡은 뒤, 여기로 이동해 와’ 등을 상세하게 설정해줘야 해요. 인간은 대충 말해도 척하고 알아듣죠. 이 얼마나 효율적인가요.” _p. 29

또한 인공지능과 인간의 가장 큰 차이점은 ‘메타 수준에서 생각할 수 있는가’, 즉 ‘생각에 대한 생각을 할 수 있는 능력, 생각 밖에서 생각을 바라보는 능력이 있는가’다. 여기서 ‘밖’이란 어떤 선택이나 결정에 대한 결과가 나한테 유리한지 불리한지를 따지는 지점이며, 이는 자신의 생존을 최우선 목표로 하면서 이를 유지하기 위해 필요한 판단 체계다. 이것이 가능하기 위한 전제 조건이 ‘신체를 갖는 것’이다. 이런 조건이 모두 갖추어질 때 신체는 알아서 지식(데이터)을 형성하고 학습하며 사용하도록 강제한다. 두 저자는 다양한 외부 정보를 받아들이는 신체와 메타레벨에서 자신의 생존을 우선하는 목적함수를 인공지능에게 부여한다면 보다 인간 의식과 가까운 수준에 도달할 수 있다고 입을 모은다.

“진짜 인간 수준의 인공지능에 도달하기 위해서는 더 미세한 단위 수준에서 감각 데이터와 지각·행동의 연결고리들을 잇는 정보처리 능력이 뒷받침되어야 할 겁니다. 이를 위해서는 신체를 갖춘 에이전트가 중요하고요.” _p. 105~106

뇌중심주의 ㆍ 인간중심주의에서 벗어난 사유
신체 기반 인공지능은 뇌중심주의, 즉 ‘뇌’라는 하나의 중심을 설정하고 전체를 설명하려는 오래된 관습에서 벗어나, 뇌 못지않게 신체도 인지하고 기억하며 때로는 뇌의 사고 방향을 규정하기도 한다는 최신 과학에 토대를 둔다. 두 저자의 대담이 신선하고 설득력이 있는 이유가 여기에 있다.

“우울증 환자에게 생각을 바꿔보라고 해도 안 되는 건 신체 상태와 신경전달물질이 뇌가 생각하는 방향을 규정하기 때문이죠. (…) 우리는 모두 뇌 중심주의, 뇌의 독재라는 관념에 너무 오래 길들여져 있는 게 아닌가 싶어요.” _p. 75

또한 이진경 교수는 존 설의 ‘중국어 방 논증’을 비판하며 이때 적용된 인간중심적인 ‘이해’의 의미를 낱낱이 해체한다. 나아가 그는 우리가 흔히 알고 있는 ‘지능’ ‘신체’ ‘감정’ ‘자아’ 등의 의미를 비판적으로 되짚어보고, 인간은 물론 동물, 식물, 사물(기계)에게까지 공평하게 적용할 수 있도록 그 의미를 재정의하여 우리가 놓치고 있는 것들을 환기하고 사고와 가능성을 확장시킨다. 나아가 사물이 자기 능력을 모두 발휘할 때까지 계속 생존을 지속할 수 있도록 하는 ‘사물과의 우정’을 주장하며 소비를 부추기는 ‘자본의 지속 가능성’ 시대에 일침을 가하기도 한다. 또한 현재 인공지능 연구에서 고려되지 않는 에너지와 자원의 과용 문제도 지적하며, ChatGPT를 시험 사용하는 것만으로도 지구 온난화를 가속화하는 결과를 불러올 수 있음을 경고한다.

“또 하나 중요한 통념은 신체란 날 때부터 타고나는 거라는 생각이에요. 나중에 외부로부터 끌어들여 장착한 것은 신체가 아니라 ‘도구’나 ‘보조물’이라고 생각하는 거죠. 그러나 그것 없이는 신체 활동이 어렵다면, 그 도구나 보조물은 신체 생존에 필수적인 일부, 즉 신체에 속하게 된 거 아닐까요?” _p. 67

“커즈와일이 말하는 특이점은 장밋빛 미래에 흠뻑 취해 1945년 전후에 찾아온 기후의 특이점을 보지 못하게 하고, 이로써 인류를 새로운 파국으로 몰고 갈 가능성이 농후한 개념 같아요. ChatGPT를 신기해하며 시험 사용해보는 것만으로도 지구 온도의 상승을 더욱 가속화할 테니까요.” _p. 311~312

인공지능을 둘러싼 사유의 향연으로 들어오라
그 외에도 ‘인간과 인공지능은 서로 사랑할 수 있는가’ ‘인공지능에게 가장 어려운 예술 영역은 무엇인가’ ‘인공지능으로 인해 윤리적 문제가 발생했을 때 누가 책임져야 하는가?’ ‘인공지능으로 대체될 가능성이 높은 직업은 무엇인가’ ‘마인드 업로딩은 현실적으로 가능한가’ ‘인공지능이 인간의 일을 대신하게 되면 인간은 어떻게 살아갈 것인가’ ‘한국의 인공지능 기술의 수준은 어디까지 왔는가’ 등 흥미진진하고 누구나 한 번쯤 고민해봤을 법한 물음에 대해 전문가적 식견을 들을 수 있다. 때로는 서로의 든든한 지원군이 되어주고, 때로는 아슬아슬한 긴장선을 달리며 서로의 주장에 집요하게 파고드는 인공지능을 둘러싼 사유의 향연으로 들어오라.

“무언가를 따라가기보다는 무언가를 둘러싸고 토론하는 것, 무언가에 대한 답을 내기보다는 차라리 답을 지우며 그 무언가에 물음을 던지는 것, 그것이 우리가 한 일이라고 생각해요. 다른 건 몰라도 많은 답을 지우는 데는 성공적인 대담이었다고 생각합니다.” _p. 307

작가정보

저자(글) 이진경

지식공동체 수유너머104 연구원, 서울과학기술대학교 인문사회교양학부 교수. 《철학과 굴뚝청소부》를 시작으로, 자본주의와 근대성에 대한 이중의 혁명을 꿈꾸며 쓴 책들이 《맑스주의와 근대성》《근대적 시·공간의 탄생》《수학의 몽상》《철학의 모험》《근대적 주거공간의 탄생》《필로시네마, 혹은 탈주의 철학에 대한 10편의 영화》 등이다. 사회주의 붕괴 이후 새로운 혁명의 꿈속에서 니체, 마르크스, 푸코, 들뢰즈·가타리 등과 함께 사유하며 《노마디즘》《자본을 넘어선 자본》《미-래의 맑스주의》《외부, 사유의 정치학》《역사의 공간》《우리는 왜 끊임없이 곁눈질을 하는가》《사랑할 만한 삶이란 어떤 삶인가》 등을 썼다. 《코뮨주의》《불온한 것들의 존재론》《삶을 위한 철학수업》《파격의 고전》 등을 쓰면서 지금 여기에서의 삶을 바닥없는 심연 속으로 끌고 들어가고 있다.

저자(글) 장병탁

서울대학교 AI연구원(AIIS) 원장, 서울대학교 컴퓨터공학부 POSCO 석좌 교수, 인지과학·뇌과학 협동 과정 겸임 교수. MIT 인공지능연구소(CSAIL) 및 프린스턴 뇌과학연구소(PNI), 삼성전자 종합기술원(SAIT) 등에서 초빙 교수로 지냈고, 한국정보과학회 인공지능소사이어티 초대 회장, 서울대학교 인지과학연구소장, 한국인지과학회 회장, 한국뇌공학회 회장을 역임한 바 있으며, 홍조근정훈장을 수상했다. 지은 책으로 《장교수의 딥러닝》《AI가 인간에게 묻다》(공저), 《또 다른 지능, 다음 50년의 행복》(공저), 《호모컨버전스》(공저), 《똑똑! 인지과학의 문을 열다》(공저) 등이 있고, 옮긴 책으로는 《마음의 새로운 과학》(공저), 《커뮤니케이션》(공저) 등이 있다.

저자(글) 김재아

SF 소설 작가, 돌아다니며 글을 쓰는 사람. 고속버스 안에서 글 쓰는 걸 가장 좋아한다. 과학재단, 복지재단 등 비영리 조직에서 오래 일해왔고, 현재는 비영리 시민단체인 ‘변화를 꿈꾸는 과학기술인 네트워크(ESC)’에 과학문화위 원장(비상임)으로 있다. 세상의 모든 일을 통찰력 있게 바라보고 종합하는 ‘사유와 상상의 제너럴리스트’를 꿈꾼다. 지은 책으로는 SF 소설 《꿈을 꾸듯 춤을 추듯》이 있다.