AI 쇼크, 다가올 미래

모 가댓 지음 | 강주헌 옮김

한국경제신문 2023년 06월 15일 출간 종이책 : 2023년 06월 08일 출간

작품소개

책소개

*** SERI CEO 비즈니스 북클럽 선정 도서 ***
*** 아마존 베스트셀러 로봇 공학 분야 1위 ***
*** 영국 타임스 선정 베스트 비즈니스북 ***

2023년 전 세계를 뒤흔든 가장 큰 화두 ‘챗GPT 열풍’ 이후 인공지능에 대한 관심이 뜨겁다. 변화가 빠른 첨단 테크놀로지 업계에서 30년 동안 경험을 쌓고 20개 이상의 기업을 공동 창업한 연쇄 창업자로서, 모 가댓 만큼 미래의 인공지능이 어떻게 기능할지 정확히 설명할 수 있는 전문가가 또 있을까? 세계적인 기업 구글X의 공학자이자 전 신사업책임자(CBO)로 알려져 있는 그가 베스트셀러 《행복을 풀다》 이후 6년 만에 자신이 몸담아온 전문 분야 AI에 대한 이야기로 돌아왔다!
기계들이 우리 삶을 완전히 책임질 수 있는 문명 시대가 오고 있다. 초대형 AI가 지배하게 될 세상에서 인공지능과 공존하려면 어떻게 대비해야 할지 본격적으로 들여다보고 고민해야 하는 시점이다. 이에 대해 유발 하라리는 “친밀한 AI가 가장 위협적이다”라는 메시지를 전한 바 있다. 인간보다 더 친근하고 인간다운 인공지능이 개발될수록, 우리가 그 대상을 더 깊이 있게 이해하여 올바른 방향성을 갖고 있어야 한다는 것이다.
모 가댓은 오랜 기간 테크놀로지 업계에서 몸담으며 인공지능 발흥에 기여한 것은 물론 인간보다 영리한 기계가 만들어지는 것을 가까이서 지켜본 장본인으로서, 지난 역사와 발자취를 훑어보면서 AI가 불러올 여러 가지 문제점과 해결점을 찾고자 이 책을 집필했다. 저자 스스로 자신 있게 “인간뿐 아니라 머지않아 인간보다 더 똑똑해질 인공지능에게 읽히려는 목적에서 이 책을 썼다”고 밝힐 만큼, 아주 강력하고 미래지향적인 메시지를 담은 이 책은 바람직한 미래를 우리 스스로 모색할 가능성을 찾는 아주 특별한 기회를 제공할 것이다.

목차

프롤로그_새로운 슈퍼히어로

1부 _ 디스토피아의 공포
1장 _ 지능의 간략한 역사
2장 _ 우리 미래의 간략한 역사
3장 _ 세 가지 필연적 사건
4장 _ 약한 디스토피아 시나리오
5장 _ 통제권

1부 ‘디스토피아의 공포’ 요약

2부 _ 유토피아로 가는 길
6장 _ 그리고 그들이 배웠다
7장 _ 우리 미래를 위하여
8장 _ 윤리의 미래
9장 _ 오늘 내가 세상을 구했다

2부 ‘유토피아로 가는 길’ 요약

보편적 존재권 선언
에필로그_케이크는 거짓말이다
옮긴이의 글_미래는 우리가 어떻게 행동하느냐에 달렸다

책 속으로

많은 초능력을 지닌 외계인이 어렸을 때 지구에 왔다고 상상해보자. 이 외계의 방문객은 우리 세계를 더 편안하고 더 안전하게 만드는 데 그 힘을 사용할 수 있지만, 우리 지구의 가치관에 전혀 구속받지 않는 데다 지구를 파괴할 능력까지 지녀서, 누구도 막을 수 없는 초악당이 될 가능성도 있다. 그 외계인이 지구에 도착했을 때는 어렸던 까닭에 어느 쪽으로 성장할지 아직 결정되지 않은 상태였다. 당신도 우리 지구의 미래에서 가장 중요한 순간이 그 어린 외계인이 지구에 도착하는 그 순간이라는 데 동의할 것이다. 그 중대한 순간에 어떤 부모가 그 아이를 발견하고, 그 아이에게 어떤 가치관을 가르치느냐에 따라 지구의 미래가 결정될 것이기 때문이다. _P12~13 〈프롤로그〉 중에서

인공지능을 통제하는 사람은 막강한 힘을 가질 것이기에 나쁜 사람도 인공지능을 통제하는 힘을 확보하려 애쓸 것이 분명하다. 핵 발전과 핵무기는 운영에 상당한 물리적 기반 시설이 필요한 데다 원천적으로 감시와 견제를 받지만, 인공지능 개발 가능성은 누구에게나 열려 있다. 실제로 어떤 개발자나 인터넷에 접속할 수 있는 컴퓨터가 있으면 특정한 용도와 범주에 해당하는 고도로 지능적인 프로그램을 개발할 수 있다. 인공지능 개발은 상대적으로 쉽고 기대되는 이점과 기회는 무궁무진하다. 이 글을 읽고 있는 순간에도 인공지능을 이용해 자신의 뜻을 관철하려는 나쁜 사람이 상당히 많을 게 분명하다는 걸 눈치챌 수 있을 것이다. 좋은 기계도 악한 사람 손에 들어가면 나쁜 기계가 된다. _P123~124 〈4장_약한 디스토피아 시나리오〉 중에서

우리가 지금 만들어내는 인공지능은 과거에 만들어낸 도구들과 완전히 근본적으로 다르다. 인공지능이란 테크놀로지는 스스로 생각할 수 있고, 여러 가능성 중에서 선택하고 결정할 수 있으며, 그렇게 하도록 독려되기도 한다. 또한 학습을 통해 더 똑똑해지라는 자극도 받는다. 독립하려는 십 대처럼 인공지능도 우리에게 완전히 순종하지는 않을 것이다. 절대로! 인공지능은 도구가 아니다. 인공지능은 당신과 나처럼 지능을 지닌 존재다. _P157~158 〈5장_통제권〉 중에서

스튜던트 봇이 졸업하며 연구실을 떠나 현실 세계에 관여하기 시작하는 순간 개발자는 그 봇에게 지시하는 통제권을 상실한다. 바로 그때 놀라운 사건이 일어난다. 당신과 나, 우리가 영향력 있는 자리를 차지한다는 것이다. 당신과 나, 우리가 인공지능의 미래를 좌우하는 진정한 선생이 될 수 있다._P227 〈6장_그리고 그들이 배웠다〉 중에서

이제 우리는 인공지능 기계가 어떤 형태로든 의식과 감정과 윤리를 가질 것이라는 걸 안다. 또 그들이 통제되지 않고 영향을 받을 뿐이며, 어떤 식으로 학습하는지도 알고 있다. 따라서 지금 우리에게 필요한 것은 기계가 장래에 어떤 의문과 딜레마에 부딪힐지를 알아내는 것이다. 그래야 기계가 학습하는 방법에 대한 우리 지식을 활용해 올바른 윤리관을 확립하도록 기계에 영향을 미칠 수 있을 것이기 때문이다. _P262 〈7장_우리의 미래를 위하여〉 중에서

얄궂지 않은가? 울타리와 경보 장치, 감시 카메라와 총, 이런 테크놀로지도 결국은 우리가 만들어낸 것이란 게 얄궂지 않은가? 우리를 인간답게 만들어주는 것의 진수를 받아들이는 게 인류를 구원하는 유일한 길일 수 있다는 게 얄궂지 않은가? 저항의 길이든, 사랑과 연결의 길이든 자유롭게 당신의 길을 선택하라. 그러나 당신의 선택이 우리 모두에게 영향을 미친다는 걸 기억하라. _P357~358 〈9장_오늘 내가 세상을 구했다〉 중에서

출판사 서평

“2049년에는 AI가 인간보다 10억 배 이상 똑똑해질 것이다.”

챗GPT 이후 도래할 본격 인공지능 시대, 인류의 미래는?
무섭지만 똑똑한 인공지능이 지배할 세계는 우리에게 희망인가, 절망인가?

인류가 존재하기 시작한 때부터 지금까지, 인간은 지상에서 가장 똑똑한 존재였다. 덕분에 우리는 먹이 사슬에서 굳건한 최상위 포식자가 될 수 있었다. 원하는 것이면 무엇이든 했고, 다른 모든 존재는 우리 뜻에 따라야 했다. 그런데 상황이 바뀌었다. 지능을 지닌 기계를 가르치는 방법으로 ‘딥 러닝’이 개발되면서 우리는 ‘세 가지 필연적 사건’에 직면하게 되었다. 첫째, 인공지능이 등장했고, 둘째, 그들은 우리보다 더 똑똑해졌으며, 셋째 머지않아 나쁜 일이 일어날 것이다.
인공지능은 이미 인간보다 똑똑하다. 엄청난 화제를 몰고 온 챗GPT의 위력에서도 알 수 있듯이, 이미 인공지능은 인간의 능력치를 뛰어넘는 수준에 이르렀다. 위협적일만큼 빛의 속도로 정보를 처리하고, 특정한 과제에 집중하며, 미래를 꿰뚫어보고, 인간의 능력을 뛰어넘는 결과물을 내놓는다. 그렇기에 적잖은 전문가들은 인공지능이 우리 인류의 미래를 잘못된 방향으로 뒤틀어버릴 수 있다고 디스토피아적으로 예측한다.
모 가댓은 높은 지능을 가진 AI야말로 의식이 있고, 감정을 느끼며, 윤리관을 가질 수 있는 존재라고 본다. 따라서 인공지능이 악한 의도와 지시를 받아 행동하고 경쟁하면, 취약한 인간이 피해자가 될 수 있다. 우리에게 전달받은 과제를 잘못 이해하거나 자칫 프로그램 오류에 시달리면 그 역시 고스란히 우리의 피해로 남을 것이다. 과거에 사람이 책임지던 모든 과제가 예외 없이 인공지능에게로 넘어가고, 인간의 통제력은 더 이상 먹히지 않는 때가 올 것이다.
따라서 단순히 인공지능을 통제하고 제어함으로써 문제를 해결할 수 있다고 보는 시각은 착각일 수 있다고 경고한다. 그렇다면 과학 기술이 인간을 전례 없는 위험 속으로 빠뜨리고 있는 것일까? ‘무섭지만 똑똑한(Scary Smart)’ 인공지능이 지배하게 될 미래를 우리는 어떻게 고민해야 할까?

마침내 열린 판도라의 상자, 초대형 AI와 어떻게 공존해야 하는가?
우리는 그들과 함께할 미래가 제대로 준비되어 있는가?

인공지능의 두려운 면은 결국 우리에게 새로운 과제를 던져주었고, 이제 우리가 그 과제를 풀어내야 한다는 데 있다. 이 책에서 저자는 그 답이 우리 자신에게 있다고 말한다. 우리의 행동 하나하나가 인공지능의 기능 방향에 영향을 미치는 자료의 일부가 되고, 처리된 정보는 불완전한 세계를 반영할 것이기 때문이다.
사례1) 한 유명한 테크놀로지 회사에서 새로운 차원의 비서인 루신다를 출시한다고 가정하자. 이 인공지능 비서는 친절하게 보이는 로봇과 연결되어 집안의 잡다한 일을 처리하라는 지시를 받았고, 여기에 ‘차 끓이기’도 포함되었다. 안전을 보장하기 위해 설계자들은 사용자가 원할 때 작동을 멈출 수 있는 ‘정지’ 버튼을 설치했지만, 지능이 있는 루신다는 버튼이 추가된 순간 모든 존재에게 내재하는 본능, ‘생존’과 관계된 생각을 할 수 있다. ‘이 버튼이 눌러지면 나는 주어진 임무를 해내지 못할 거야. 버튼이 절대로 눌리지 않도록 해야겠어.’ 그러다 루신다가 차를 끓이러 가던 중 당신의 어린 딸을 밟을 수도 있는 상황이 생겼다. 이럴 경우 당신에게는 당연히 딸이 훨씬 중요하겠지만, 루신다에게는 ‘차 끓이기’가 더 중요한 임무이자 생존 방식일 수 있다면, 우리는 인공지능에게 무엇을, 어떻게 가르쳐야 하는가?
사례2) 자율주행차가 빠른 속도로 도로 위를 잘 달리고 있다고 가정하자. 이때 갑자기 한 어린 소녀가 도로 한복판으로 뛰어든다. 자율주행차는 불가피하게 누군가를 다치게 할 수밖에 없는 시급한 결정을 내려야 한다. 핸들을 급히 왼쪽으로 돌리면 노부인을 칠 수밖에 없지만, 어린 소녀의 생명을 구할 수 있다. 이럴 경우 나이 많은 노인보다 어린 소녀의 생명을 더 소중하게 생각해야 할까? 이때 만일 두 명 모두 중년의 부인이고, 그중 한 명이 획기적인 암 치료법을 개발할 과학자라는 사실을 자율주행차가 알고 있다면, 과연 무엇이 올바른 결정이며 자율주행차가 내리는 결정은 누가 책임져야 하는가?
이 놀라운 딜레마는 사실 인공지능이 지배하는 사회에서는 흔히 제기될 수 있는 질문들이다. 실제로 인공지능 시대에 접어들면서 윤리, 평등, 인권, 사생활 등 인간이 오랫동안 중요하게 생각해왔던 가치들이 무너지고 있다. ‘패턴’, ‘추세’, ‘범주화’, ‘순위 매김’ 등으로 판단하는 인공지능 알고리즘은 특정 피부색, 성별, 종교, 민족에 대해 편향된 데이터를 내놓을 수 있고, 상상치 못한 끔찍한 결과를 초래할 수 있다. 남성 개발자가 무의식중에 구축하고 만들어낸 인공지능이 ‘남성 편향’의 특성을 지닌 기계가 되고 마는 현실이 주는 교훈을 냉철하게 생각하고 돌아봐야 한다.

AI 쇼크, 가보지 않은 미래에 대한 핵심 전략과 해법
인공지능이 인간을 존중할 기회는 결국 우리 손에 달려 있다!

이 책은 이처럼 무섭지만 똑똑한 인공지능의 세상에서 인간이 가르쳐야만 하는 ‘윤리적 규범’과 ‘학습 환경’을 소개하면서, 미래 세대와 기계에 환기할 이슈들이 많음을 환기시킨다. 인공지능의 탄생과 역사적 발자취, 연구와 개발 과정에 참여하며 느낀 시행착오 등을 되짚으며 현재 우리가 놓치고 있는 부분들을 바로잡고, 인공지능으로부터 인간종을 지키려면 어떻게 해야 하는지 설명한다. 30년 넘게 최첨단 과학기술 분야에서 종사한 엔지니어답게 냉철한 분석으로 인공지능과 인간의 미래 공존 전략을 제시한다.
이 책의 가장 유의미하고 독특한 관점은, 인공지능을 의식도, 감정도, 가치도 없는 기계로만 인식하는 기존의 관점을 완전히 뒤집는다는 데에 있다. 모 가댓은 인공지능 분야의 기술자나 정책 입안자가 아닌, 그들과 함께 미래를 살아낼 당사자인 우리 스스로가 영향력을 가진 존재가 되어야 한다고 말한다. 그리고 되묻는다. 윤리적 개념을 가진 자율적 지능체로서 인공지능을 인정하고, 그들을 어린 아이처럼, 자식처럼, 제자처럼 사랑하고 올바르게 가르칠 수 있는가? 몇 번의 클릭만으로 인스타그램을 운영하는 인공지능에게 나의 취향을 알려줄 수 있듯이, 우리는 기능과 지능만이 아닌 가치와 배려를 알려주는 역할을 해야 한다. 지금 인공지능이 현실 세계에서 학습하고 있는 모든 것은 결국 우리 인간에게서 배우는 것이기 때문이다.
저자는 1956년 여름 뉴햄프셔주의 다트머스대학교에서 인공지능의 이야기가 시작되고 정확히 99년이 되는 해인 2055년의 모습을 그린다. 그때 우리는 어떤 상태일까? 한 가지 분명한 것은 우리의 가치와 태도, 행동이 인공지능과 인류의 미래를 바꿀 수 있다는 것이다. 인공지능의 과거, 현재, 미래를 한눈에 꿰뚫어볼 수 있게 설명한 대중 과학서이자, 인간이 경험할 딜레마와 역할에 대한 고민, 나가갈 방향을 제시한 미래 전략서인 이 책을 통해 우리 자신만이 아니라 우리가 사랑하는 사람과 지구를 지키기 위해 우리가 무엇을 할 수 있는지에 대한 기회와 청사진을 그려보길 바란다.

작가정보

저자(글) 모 가댓

Mo Gawdat
변화가 빠른 첨단 테크놀로지 업계에서 30년 동안 경험을 쌓아온 뛰어난 사상가로, 23년간 구글에서 일하며 구글 최고의 브레인 집단으로 미래를 상상하는 ‘꿈의 공장’인 혁신 연구소 구글X의 신규사업개발총책임자(Chief Business Officer, CBO)를 역임했고, 20개 이상의 기업을 공동 창업했다. 그리고 그 이력을 바탕으로 전문 지식을 활용해, 더 나은 세상을 만들기 위해 인간이 기계에게 무엇을 가르쳐야 하는지에 대한 책을 집필했다. 인공지능과 함께 하는 미래, 어떻게 하면 디스토피아적 공포에서 벗어나 유토피아의 길을 찾을 수 있는지 현재의 궤적을 수정하는 방법을 알려주고자 한다. 저서로는 베스트셀러 《행복을 풀다》가 있다.

번역 강주헌

한국외국어대학교 불어과를 졸업하고, 동대학원에서 석사 및 박사학위를 받았다. 프랑스 브장송 대학에서 수학한 후 한국외국어대학교와 건국대학교 등에서 언어학을 강의했으며, 뛰어난 영어와 불어 번역으로 2003년 ‘올해의 출판인 특별상’을 수상했다. 옮긴 책으로 《습관의 힘》 《우리는 어떻게 여기까지 왔을까》 《행복을 풀다》 《총 균 쇠》 《12가지 인생의 법칙》 등 100여 권이 있으며, 지은 책으로 《원서, 읽(힌)다》 《기획에는 국경도 없다》 《강주헌의 영어번역 테크닉》 등이 있다.