인공지능이 할 수 있는 것, 할 수 없는 것

강국진 지음

필로소픽 2024년 07월 15일 출간 국내도서 : 2023년 12월 15일 출간

작품소개

책소개

곧 다가올, 아니 어쩌면 이미 도래한 AI 시대. 만든 사람도 어떻게 작동하는지 모른다는 이 미지의 존재에 대해 우리는 어떻게 대처해야 할 것인가? 인류가 AI를 완전히 이해해서 통제할 수 있을 때까지 개발을 보류해야 할까? 인공지능과 뇌과학을 전공한 저자는 AI에 대한 여러 걱정스런 질문들을 과학적, 철학적 통찰을 통해 해체해 버린다. 이러한 질문들은 잘못된 관점에서 비롯된 사이비 문제라는 것.

저자는 기존의 기술 중심 인공지능 논의가 놓치고 있는 ‘비교’의 관점에서 인공지능을 바라본다. 인간의 지적 능력을 향상시켰던 ‘문자’ 와 ‘과학’ 패러다임을 인공지능과 비교해보면 인공지능이 기계보다는 문자에 가깝다는 것이다. 이러한 비교 접근법은 기계학습 인공지능이 기존 과학 패러다임과 근본적으로 다름을 명확하게 이해하도록 해주고, 우리의 걱정이 기우임을 깨닫게 해준다.

최적의 값을 찾아내는 기계학습 인공지능은 고립계와 환원주의를 바탕으로 두고 정답을 찾아내는 과학과 다르다. 기계학습 인공지능은 뉴턴처럼 만유인력 법칙을 만들 수도, 만들어야 할 필요성도 못 느낀다는 것이다. 저자는 기술적 측면뿐 아니라 철학적 고찰을 통해, 문자 도구의 등장 이래 인간의 본질을 가장 크게 변화시킬 인공지능이란 도구를 어떻게 바라봐야 하는지 통찰을 제공한다. 또한 부록에서는 기계학습의 근간이 되는 확률이론을 뼈문과도 이해하기 쉽게 설명한다. 인공지능을 근원적으로 이해하고 싶은 사람에게 권한다.

목차

여는 글
1장 인공지능 패러다임
인공지능은 음악과 무엇이 다른가?
왜 인공지능 패러다임인가?
2장 기호주의 인공지능과 문자 지식 패러다임
오래된 인공지능
기호주의 인공지능의 한계
인간은 이미 사이보그다
3장 기계학습 인공지능
기계학습
AI의 전제조건과 한계
AI는 뉴턴을 대체할 수 없다
4장 지능 패러다임
여러 가지 지능
과학 패러다임의 특징
고립계와 환원주의
AI 패러다임과 제3의 지식
AI 패러다임과 최적화
게임과 차원의 저주
과학적 지식과 제3의 지식의 공존
5장 AI 시대
도구를 쓰는 AI
지능과 환경
AI 패러다임과 교육
인공지능 시대를 사는 방법
문명의 시대와 부족의 시대, 그리고 인공지능
인본주의의 새로운 시작
닫는 글
부록
기계는 어떻게 학습을 할 수 있는가?
인공신경망이란 무엇인가?
빈도주의 확률
베이지안 확률
차원의 저주와 MCMC

책 속으로

인공지능 패러다임의 핵심적 역할은 우리의 지능을 증진시키고 우리를 보다 합리적인 존재로 만드는 일이다. 발달한 인공지능이 널리 쓰이는 사회에서, 사람들은 인공지능이 없는 자신을 상상할 수 없게 될 것이다. 인공지능은 이미 우리 속에 내재화되었을 터이기 때문이다. 음악이나 문자처럼 말이다. 일찍이 과학적 문제 해결 패러다임은 우리를 변화시켜, 세상과 자신을 다른 눈으로 보게 만들었다. 인공지능 패러다임도 앞으로 같은 역할을 할 것이다.
p.23

인공지능 분야는 빠르게 변화하고 있어서, 새로운 응용 사례에 대한 소식은 흥미로울 수 있으나 대부분 순식간에 낡은 정보가 되어버린다. 이런 정보를 모아 책으로 출판하려 하면, 그 책이 인쇄되는 도중에 더 새로운 정보가 쏟아질 것이다. 인공지능 패러다임에 대한 이해는 우리가 이런 정보의 홍수 속에서도 세상에 뒤처지지 않게 해준다. 새로운 인공지능을 또 만든다고 해봐야, 인공지능 패러다임에 속하는 또 다른 예이기 때문이다. 게다가 인공지능 패러다임은 왜 어떤 발전은 더 중요한지, 왜 어떤 발전은 느리게 이루어지는지, 나아가 앞으로 인공지능 시대가 온다면 우리가 무엇을 해야 하는지를 가르쳐준다. 우리의 교육도 우리가 암묵적으로 가정하고 있는 패러다임의 영향을 받는다. 새로운 패러다임의 이해는 과학 패러다임을 포함한 과거의 패러다임들에 기초하고 있는 교육과정에 대해 새로운 시각을 제공해줄 수 있다. 인공지능 패러다임의 이해는 인공지능에 대해서 공부하려면 가장 먼저 해야 하는 일이다.
p.26

오늘날에는 인공지능 패러다임을 이해하지 못하면, 기술이 더 발전할 수도 우리가 더 행복해질 수도 없다. 인공지능의 발전은 공학자들만의 몫이 아니다. 되도록 많은 사람이 인공지능 패러다임을 이해할 필요가 있다. 인공지능 패러다임은 사회적 개혁도 요구한다. 그냥 빠른 컴퓨터만 있다고 되는 일이 아니다. 마치 우리나라에 열 명의 뉴턴이 태어나도 나머지 사람들이 수렵채집 문명에 머물러 있다면 과학이 발전할 수 없는 것과 마찬가지이다.
p.27

AI 패러다임에서 무엇이 무엇을 대체하는가는 핵심이 아니다. 핵심은 서로 연결되어 서로를 이용하는 것이다. AI는 대단한 잠재력을 지니고 있지만, 인간을 대체하는 것이 목적이 아니다.
p.93

사회가 점점 더 다원화되어만 가는 현재의 추세는 결국 언젠가 문명의 위기를 일으킬 것이다. 그걸 피하기 위해서는 세상이 이제까지와 다른 방식으로 운영될 필요가 있다. 여기에 꼭 필요한 것이 AI다. 사람이 그 모든 데이터를 처리할 수는 없기 때문이다. 다원화하는 동시에, 잊힌 계곡도 없어야 한다. 그것에 실패할 때, 즉 이 책에서 쓴 표현으로 사이보그 1이 사이보그 2로 진화하는 데 실패할 때, 우리는 집단적으로 더 지능적이게 되지 못할 것이다. 그리고 그것은 문명의 재난일 것이다.
p.188

우리는 ‘본질’ 같은 말에 집착하지 말아야 한다. 그러면 인간의 육체적 본질은 뇌고, 뇌의 본질은 슈퍼 뇌세포라는 식의 환원주의적 사고에 빠지기 쉽다. 인간은 태어날 때부터 변하지 않는 비물질적인 영혼을 지닌다는 생각도, ‘인간’ 혹은 ‘나’라는 것의 본질이 언제까지나 변하지 않고 그대로 있다는 생각으로부터 나온다. 모든 것은 그저 서로 다른 것이고, 지능은 그 서로 다른 것들이 연결된 결과로 나오는 것이다. 여기까지는 인간이고 여기부터는 도구라는 식의 생각도 옳지 않다. 우리는 인간이 지능을 가진 존재라는 인본주의에 익숙하지만, 사실 인간 지능의 상당 부분은 인위적인 기술인 문자에 의해서 만들어진 문자 지식 지능이다. 즉 인간은 이미 사이보그이며, 만들어지는 존재인 것이다.
p.200-201

출판사 서평

‘인공지능이 인간을 대체할까?’라는 질문이 처음부터 잘못된 질문인 이유
인공지능에 대해 이야기하자면 반드시 등장하는 주제가 있다. ‘인공지능은 인간적인가, 혹은 인간의 적인가?’ 다시 말해 인공지능은 인간을 돕는 존재가 될 것인가, 아니면 인간을 위협하는 존재가 될 것인가? 인공지능으로부터 안전한 인간만의 영역이 있을까? 저자는 이런 질문들이 AI에 대한 잘못된 개념을 가지고 기계나 인간에 비교하기 때문에 발생하는, 즉 인공지능을 제대로 모르기 때문에 나오는 질문이라고 말한다. ‘비교’ 논증을 통해 기존 기술 중심 인공지능 책들이 놓치고 있던 맹점을 예리하게 파고드는 저자의 논리 전개는, 개념 분석을 통해 철학적 문제를 해체하는 언어분석철학의 방법을 떠올리게 한다. 그가 강조하는 ‘비교’는 바로 ‘오래된 인공지능’으로서의 문자와의 비교, 그리고 과학 패러다임과의 비교다. 이를 통해 인공지능과 인간 사이의 관계의 본질이 명료하게 드러나며, 인공지능에 대해 가졌던 고정관념이 전복된다.

수천 년 전 인간은 이미 인공지능을 만들었다
너무나도 당연해서 인식을 못하지만, 인간은 문자라는 인공지능을 이미 가지고 있다. 유전적으로는 30만 년 전의 인류와 크게 다를 바 없지만 문자와 결합한 현대인은 수렵채집인과는 다른 문명인이 된다. 문자를 통해 인간은 안정적으로 기록을 후손에게 전달할 수 있었고, 생각을 정리해서 더 고차원적인 사고를 할 수 있게 됐으며, 태양계 밖으로 우주선을 보낼 수 있게 된 것이다. 문자가 없다면 아무리 천재과학자라도 과학이론을 세울 수 없다. 어떤 의미에서 현대인이 문자의 지배를 받고 있다고 말할 수도 있겠지만, 이에 대해 인공지능으로서의 문자가 인간을 위협한다는 식으로 문제의식을 가지는 사람은 없다. 오히려 문자를 모르는 게 더 문제로 인식된다. 저자는 이러한 문자와 마찬가지로 오늘날에는 AI 역시 인간과 통합되어, 인간의 지능을 확장시켜줄 도구라고 역설한다.

20세기 인공지능 연구는 왜 실패했을까?
초창기 인공지능의 연구자들은 문자 지식 지능을 컴퓨터로 구현하는 데 주력했다. 그동안 인류의 발전에 문자지식이 너무나도 성공적인 능력을 보여줬으므로 당연한 선택이었다. 하지만 기호주의 인공지능이라 불리는 이 접근법은 별다른 성과를 내지 못한 채 끝났다. 사람이 아주 쉽게 하는 일조차 기호와 규칙으로 구현하는 데 어려움이 있었던 것이다. 이는 문자 지식 지능이 인간 지능의 전부가 아니었기 때문이다. 한동안 침체기에 빠졌던 인공지능 연구는, 21세기에 들어 향상된 컴퓨터 연산능력에 힘입어 기계학습 인공지능을 중심으로 부활하였다. 오늘날 우리는 알파고를 위시한 챗GPT 등 생성형 인공지능의 놀라운 결과물을 보며, 인간이 기계로 대체될 수 있을지 모른다는 두려움에 사로잡힌다.

인공지능은 우리가 생각하는 그 과학이 아니다
기계학습 인공지능은 우리가 흔히 생각하는 과학 기술과 근본적인 차이가 있다. 고립계와 환원주의를 기반으로 하는 과학은 정답을 찾는 것이 목적이다. 이를 위해서 인간이 감당할 수 있도록 단순화된 방식을 추구한다. 예를 들어 뉴턴의 만유인력 법칙은 제한된 조건을 가정하고, 몇 가지 변수만 고려했다. 이런 단순한 법칙들을 조합해서 복잡한 기계를 만드는 것이 환원주의 방식이다. 반면 기계학습은 본질적으로 확률이다. 주어진 질문에 대해 확률값이 높은 답변을 내놓을 뿐, 그 답이 어떻게 도출되는지 논리구조나 인과관계를 제공하지 못한다. 실제로 방대한 데이터를 학습해 사람처럼 자연스러운 문장을 구사하는 챗GPT는 간단한 수학문제를 풀지 못해서 외부 수학프로그램의 도움을 받는 실정이다.
인공지능이 모든 분야에서 인간을 대체하고 인간을 뛰어넘는 존재가 될 것이라는 걱정은 이러한 차이를 모른 채 환원주의적 과학 기술의 연속선상에서 판단하기 때문이라고, 저자는 말한다. 환원주의 방식은 쌓여서 거대하고 정밀한 기계를 만들 수 있지만, 확률로 도출한 지식은 쌓을수록 오차가 커지기 때문에 거대하고 정밀한 시스템을 만들 수 없다는 것이다.

인공지능은 현대 사회의 문제를 해결할 사이보그2의 디딤돌
저자는 단순히 관련 지식을 전달하는 것에 머무르지 않고, 인공지능과 인간의 정의에 대한 오래된 관념을 전복함으로써 독자가 두려워하는 것의 실체를 밝힌다. 비트겐슈타인이 언어 문제에서 그러했듯이, 저자는 철학적 해체 방법을 사용해 독자가 문제의 기초부터 재고하도록 만든다. 인공지능이 대체할 수 없는 ‘인간’ 혹은 ‘나’라는 것의 본질이 뭘까? 아니, ‘본질’이라는 것이 정말 존재하는 것일까? 인간과 인공지능은 서로 대체되는 개별적 완성품일까?
저자는 인간이 이미 도구와 융합된 '사이보그'와 같은 존재임을 꼬집는다. 문자와 과학으로 발전된 지능을 가진 인간을 ‘사이보그 1’로 보았을 때, 현대 사회는 사이보그 1이 해결하기 힘든 문제들로 채워지고 있다. 저자는 인공지능이 인간을 그 문제를 돌파할 능력을 가진 ‘사이보그 2’로 만들어 줄 도구라고 역설한다.

독창적인 혜안으로 풀어내는 인공지능 패러다임의 모든 것
물리학과 인공지능학을 전공했으며 이후 뇌과학 분야에서도 활발히 연구한 저자는 인공지능의 역사와 한계점, 그리고 현재 인공지능 패러다임을 주도하는 기계학습 인공지능에 대해 쉽고 명료하게 설명한다. 인공지능을 오로지 과학적 시각으로 해석하려는 것은 마치 “교회가 과학을 가르치려 드는” 것과 같다. 종교와 과학이 다른 믿음을 가지고 있듯이, 과학과 인공지능도 각자 다른 믿음을 통해 굴러가기 때문이다.
따라서 인공지능 패러다임을 제대로 이해하고 사용하려면, 본질적인 작동 방식뿐만 아니라 사용자나 법률 등 인문·사회적 환경까지 고려해야 한다. 그 점을 정확히 꿰뚫은 저자는 빈도주의 확률과 베이지언 확률, 몬테카를로 기법부터 드레이퍼스와 튜링의 논의, 탈레브의 ‘블랙 스완’과 비트겐슈타인의 언어 규칙, 그리고 이사야 벌린의 낭만주의까지 다루며 과학과 인문학에 대한 폭 넓은 지식으로 인공지능을 탐구한다. 이러한 설명은 비전공자도 이해하기 쉬운 논리적 전개와 유쾌한 비유를 통해서 웬만한 확률통계 책이나 철학책보다 쉽고 즐겁게 독자에게 다가온다.

AI 시대, 그대들은 어떻게 살 것인가
이 책은 결국 AI 시대를 통해 삶과 인간의 정의가 다시 세워질 것임을 말한다. 지금껏 사회 전반을 지배해 온 것은 과학 패러다임으로, 모든 문제에 단 하나의 답이 있으며 세계에는 정확하고 간결한 법칙이 존재한다는 착각 속에 살게 한다. 과학 패러다임의 사회에서 세부적인 지식과 법칙은 점점 증가하고, 복잡해지는 세계에서 사람들은 자기만의 계곡으로 숨어들게 된다. 이러한 개인화 현상이 지속된다면 우리는 문명의 붕괴를 피할 수 없다.
AI 시대는 안과 밖이, 각각의 도구가, 사람들이 서로 연결되어 작동하는 세계이다. 이 세계에서는 실패도 데이터이며 완벽하지 않은 지식도 연결을 통해 쓸모 있어진다. 사람들은 인간보다 이성적인 AI의 등장에 인본주의가 사라질까봐 걱정하지만, AI 시대는 인본주의가 사라진 시대가 아니라 더 겸손하고 덜 개인주의적인 인본주의의 시대이다. 저자는 새로운 시대를 맞이하기 위해 우리가 가져야 할 태도를 안내한다. 이는 AI를 통해 얻는 지식을 ‘제3의 지식’으로 구분하며 이를 적극적으로 활용하라는 제안이다. 당신은 문명의 붕괴로 향할 것인가, 새로운 인본주의를 맞이할 것인가? 미래를 향한 방향키는 AI가 아닌, AI를 받아들이고 사용해야 할 당신의 손에 달려있다. 성큼 다가온 인공지능의 시대를 우리가 어떤 태도로 마주해야 할지, 과연 그 속에서 새롭게 정의되는 인간의 본질은 무엇인지 고민하는 당신을 위한 안내서.

작가정보

저자(글) 강국진

포항공대 물리학과에서 학부와 석박사 학위를 받았다. 1991년에 인공지능 연구로 공부 방향을 바꾸었고 〈신경망 학습에서의 대칭성 깨어짐〉이라는 논문으로 박사 학위를 받았다. 이후 인공신경망이 아니라 진짜 뇌를 연구하기 위해 뇌과학으로 방향을 바꾸고 이스라엘의 히브루대학, 미국의 뉴욕대학 그리고 일본의 이화학 뇌과학 연구소 등에서 연구했다. 이때 연구한 주제는 시각 피질에서의 신경망 네트워크의 모델 연구나 활동전위 내의 정보 분석이었고, 일본에서는 데이터를 기반으로 환경이 가진 확률분포를 학습하는 문제를 연구했다. 블로그에 쓴 글을 모아서 《철학을 하지 않는 닭》을 출판했으며 《주석 달린 플랫랜드》의 주석을 번역했다. 블로그 〈나를 지키는 공간〉과 책을 주로 소개하는 유튜브 채널 〈오늘의 질문〉을 운영하고 있다.