2029 기계가 멈추는 날

AI가 인간을 초월하는 특이점은 정말 오는가

게리 마커스 , 어니스트 데이비스 지음 | 이영래 옮김

비즈니스북스 2021년 06월 23일 출간 종이책 : 2021년 06월 25일 출간

작품소개

책소개

“AI를 향한 논쟁적 이슈에 마침표를 찍는 단 한 권의 책!”

·1억 대 판매된 아마존의 알렉사는 정말 믿을 수 있는 비서인가?
·구글의 자율주행차는 왜 아직도 인간 없이 달리지 못하는가? ·IBM의 왓슨은 왜 의과대 1년 차보다 진단 능력이 무능한가?
인간이 예측한 AI의 성장 속도는 왜 빗나갔는가?
알고리즘으로 움직이는 기계를 넘어선 더 지능적이고 더 인간적인 AI의 탄생!

2029, AI가 인간을 초월하는 특이점은 정말 오는가!
인공지능 vs. 인간 지능, AI에 관한 가장 현실적이고 뛰어난 보고서!
‘인간은 기계가 되고 기계는 인간이 된다!’ 세계적인 미래학자이자 구글 기술이사인 레이 커즈와일이 기술이 인간을 초월하는 순간이 온다고 예측한 2029년이 얼마 남지 않았다. 그가 예측한 미래는 정말 도래할 것인가? 구글 전 CEO 에릭 슈미트는 “AI가 기후 변화, 빈곤, 전쟁, 암을 해결할 것이다!”라고 말했다. 반면 스페이스X의 CEO 일론 머스크는 “AI 연구는 악마를 소환하는 일”이라고 말했다. 이러한 AI를 둘러싼 논쟁과 화려한 이슈에도 불구하고, 인간의 지능을 완전히 능가하거나 일부 초월한 수준에 도달했다고 말할 수 있는 AI의 실현은 아직 이뤄지지 않고 있다. 단순한 알고리즘으로 움직이는 기계는 과연 진화할 것인가, 여기서 멈춰 설 것인가?
세계적인 베스트셀러 《클루지》의 저자이자 MIT 출신의 뛰어난 인지과학자 게리 마커스와 AI의 상식적 추론(common sense reasoning) 분야의 독보적인 전문가 어니스트 데이비스 교수는 그 실현이 인간의 예측보다 훨씬 더 복잡하고 어려운 일이 될 것이며 더 많은 시간을 요구한다고 말한다. ‘인간의 정신’(human mind)에서 AI의 미래에 대한 영감을 얻은 저자들은 이 책을 통해 AI를 인간이 신뢰할 수 있는 수준으로 진전시키는 데 무엇이 필요한지 설명하고, 우리가 현명하게 대처하기만 한다면 그런 진보의 과정에서 기계의 지배를 받는 미래를 걱정할 필요가 없다고 이야기한다. 《2029 기계가 멈추는 날》은 AI 비즈니스의 현주소에 대해 명료하고 현실적인 평가를 내놓으면서 새로운 세대의 AI를 통해 인간이 원하는 미래를 설계해 나가는 법에 대한 고무적인 비전을 제시한다.

목차

저자의 글_ AI는 훨씬 더 인간다워져야 한다

제1장 꿈과 현실의 간극에 선 AI
과대평가된 AI의 문제점 | 기계는 얼마나 인간과 가까워졌나 | ‘닫힌 세계’에 갇혀 있는 인공지능 | 세상의 다양성과 복잡함을 기계가 알 수 있을까 | 지금의 AI 연구는 잘못된 길로 가고 있다

제2장 진짜 위협인가, 위협적인 척인가?
터미네이터는 없다 | 의도를 알지 못하는 어리석은 하인 | 지금의 AI를 얼마나 믿을 수 있을까 | 빅데이터를 넘어선 새로운 접근법을 찾아야 할 때

제3장 딥러닝을 너무 믿지 마라
지금, 왜 딥러닝에 주목해야 하는가 | 인간의 뇌를 닮은 시스템 | 불가능이 없는 딥러닝의 탄생? | 탐욕스럽고 불안정하며 알 수 없는 존재 | 완전한 지성이 아닌 알고리즘의 하나일 뿐

제4장 구글은 문맹인가, 언어 천재인가?
기계는 정말 글을 이해할 수 있을까 | 똑똑한 AI가 제대로 읽지 못하는 이유 | 비유, 상식, 추론을 통합하는 일 | 링크를 찾는 것과 질문을 이해하는 것의 차이 | 시리는 정말 비서가 될 수 있는가 | 추론하지 못하는 구글 번역의 한계 | 인풋과 아웃풋으로 설명할 수 없는 언어의 미묘함 | 지금의 AI가 인간처럼 읽지 못하는 이유 | 인간의 ‘상식’을 기계에게 이해시키는 일 | 세상을 모르고 언어를 알 수는 없다

제5장 로봇은 정말 ‘다 알아서’ 해줄까?
인간의 일자리를 아직 안전하다 | 가정용 로봇은 꿈의 영역일까 | 알고 보면 대단한 로봇청소기의 능력 | 인간에게는 쉬운 일이 로봇에게는 어렵다 | 닫힌 시스템은 알 수 없는 열린 세계 | AI에게는 큰 도전인 일상적인 업무 | ‘다 알아서 하는 로봇’은 언제쯤 실현될까

제6장 인간 정신이 주는 11가지 인사이트
‘마스터 알고리즘’은 존재하지 않는다 | 기계에는 ‘표상’이 없다 | 세상을 이해하는 도구, 추상화와 일반화 | AI는 유연성을 가지고 생각할 수 있는가 | 규칙과 불규칙을 통합하는 인간 정신의 비밀 | 단어의 합은 문장이 아니다? | 같은 말도 맥락 안에서 달라진다 | 숨겨진 본질을 간파하는 능력이 필요하다 | 인과성을 학습하는 일의 어려움 | 인간의 경험과 딥러닝의 차이점 | 무에서 유를 만들려 하지 말라

제7장 상식과 딥 언더스탠딩으로 가는 길
상식을 ‘코딩’하는 일의 어려움 | 상식을 명확하고 애매하지 않게 나타내는 방식 | 수천 개의 지식에서 관계를 찾아내는 법 | 시간, 공간 그리고 인과성 | 진보의 시작은 유동성을 얻는 데 있다 | 계획을 세우고 수정할 줄 아는 로봇 | 시뮬레이션만으로는 부족하다 | 부정확하고 불완전한 인간이 AI보다 나은 점 | 범용지능으로 가는 길

제8장 신뢰할 수 있는 AI를 향해
AI에도 안전 법규가 필요하다 | AI가 판도라의 상자가 되어서는 안 된다 | 소프트웨어의 신뢰성을 높이는 접근법 | 지름길은 없다 | 버그 없고 위해를 가하지 않는 AI | 로봇이 가져야 할 가치관은 무엇인가 | 진정한 의미의 ‘생각’을 할 수 있는 인공지능 | 더 나은 AI는 있다

감사의 말
추천 도서
참고문헌
주
찾아보기
이미지 출처

출판사 서평

“AI가 기후 변화, 빈곤, 전쟁, 암을 해결할 것이다!” _에릭 슈미트
“AI 연구는 악마를 소환하는 일이다!” _일론 머스크
유토피아와 디스토피아의 갈림길에 선 AI의 현실을 날카롭게 파헤친다!
〈2001: 스페이스 오디세이〉, 〈블레이드 러너〉, 〈HER〉… 수많은 영화가 인간과 인공지능의 공존하는 세계를 그려냈다. 그리고 다양한 이야기와 결말을 통해 유토피아와 디스토피아의 모습을 보여줬다. 영화 속 현실이 실현될 가능성은 점점 더 커지고 있다. 적어도 뉴스와 광고에서 나오는 AI를 봤을 땐 말이다. 2018년 1월 15일, 미국 《뉴스위크》는 커다란 헤드라인을 걸고 이렇게 말했다. ‘인간을 능가하는 로봇의 읽기 능력! 수백만 개의 일자리가 위험에 처했다!’ 실제로는 무슨 일이 일어났을까? 마이크로소프트와 알리바바에서 만든 인공지능 프로그램 스쿼드(SQuAD)가 독해 테스트에서 극히 제한적이고 특정한 영역의 문제를 해결하는 데 인간 수준의 성과를 달성했다. 이전에는 인간의 능력에 한참 못 미치는 수준에 머물렀던 과제에서 수치로 보면 82.136%에서 82.65%라는 아주 미비한 진보를 이룬 것이었다. 하지만 그들은 보도자료를 통해 “사람처럼 서류를 읽고 문제에 답할 수 있는 AI를 만들었다.”고 발표했다.
AI가 인류세에 이정표를 그을 것이라는 데 이견은 없다. 다만 어떤 영향을 미칠 것이냐에 대한 논쟁적 이슈가 끊이지 않고 있다. 구글의 전 CEO 에릭 슈미트는 “AI가 기후 변화, 빈곤, 전쟁, 암과 같은 문제들을 해결할 것”이라고 선언했다. 엑스프라이즈(XPRIZE)의 설립자 피터 디아만디스도 강인공지능(Strong AI)이 “우리를 풍요의 피라미드 꼭대기로 쏘아 올려줄 것이 분명하다.”고 말했다. 반면 스티븐 호킹은 AI가 “우리 문명 최악의 사건”이 될 수 있다고 경고했고 일론 머스크는 AI 연구가 “악마를 소환하는 일이며 핵무기보다 해로운” 위험이 된다고 주장했다. 중요한 것은 이들이 말하는 AI가 정확히 어떤 AI인가라는 점이다. 또 그들이 말하는 일들이 벌어질 정도로 AI가 무언가를 실제 할 수 있는가를 물어야 한다.
MIT 출신의 저명한 인지과학자 게리 마커스와 뉴욕대학교 쿠란트 수학연구소의 컴퓨터공학자 어니스트 데이비스는 지금의 AI 현실에 대해 “AI를 둘러싼 과대 선전에도 불구하고 인간의 지능과 능력을 완전히 능가하거나 일부 초월한 수준에 도달했다고 말할 수 있는 AI의 실현은 아직 이뤄지지 않았다.”고 지적한다. 그리고 인간이 원하는 미래를 설계하는 데 필요한 AI를 가까운 미래에 실현하기 위해서는 지금 당장 접근법을 바꿔야 한다고 주장한다.


1억 대 판매된 아마존의 알렉사, 구글의 자율주행차, IBM의 왓슨…
인간이 예측한 AI의 성장 속도는 왜 빗나갔는가?
알고리즘으로 움직이는 기계는 여기서 멈춰 설 것인가, 진화할 것인가?
최근 AI 분야의 눈에 띄는 진보는 하드웨어의 비약적인 발전과 함께 기가바이트나 테라바이트 단위의 대규모 데이터 세트를 기반으로 이뤄졌다. 특히 빅데이터의 등장으로 데이터를 분석하는 알고리즘, 즉 ‘딥러닝’이라는 강력한 통계 엔진이 그 중심에 있다. 거대한 데이터베이스에 의존해 머신러닝 방식으로 초인간적 수준으로 문제를 해결해내는 기계들이 우후죽순 등장하기 시작했다. 전 세계 1억 대 이상 판매된 아마존의 알렉사와 구글의 자회사 웨이모(Waymo)의 자율주행차, IBM의 왓슨이 대표적인 예다. 하루아침에 대변혁을 이룰 것만 같았던 화려한 등장이 무색하게도 모두 1년도 채 지나지 않아 실망스러운 성적표를 받았다. 예기치 않은 방식으로 너무 손쉽게 개인정보를 유출하는 사건을 일으킨다거나 흐린 날씨나 표지판 혼동 등 변수에 대응하지 못해 교통사고가 벌어지기 일쑤고 가슴 통증이라는 증상에 평범한 의과대 1학년생도 내놓을 수 있는 진단(심근경색, 협심증, 대동맥박리)을 내놓지 못하는 문제로 말이다.
《2029 기계가 멈추는 날》의 저자인 게리 마커스와 어니스트 데이비스는 데이터가 더 풍부해지고 컴퓨터 클러스터의 속도가 더 빨라지고 천문학적 규모의 투자가 더 많아진다고 해도 해결할 수 없는 근본적인 문제가 남아 있다고 말한다. 바로 딥러닝 기반의 기계가 지능 활용에 가장 기본이 되는 상식과 추론 영역의 한계를 갖고 있다는 사실이다.

“진정한 지능에는 추론, 언어, 유추가 필요하지만 현재의 기술로는 이들 중 어떤 것도 제대로 처리하지 못한다. 예를 들어 우리에게는 아직 법률 계약을 확실히 이해할 수 있는 AI 시스템이 없다. 단순 패턴 분류만으로는 충분하지 않은 문제이기 때문이다. 딥러닝에게는 넷플릭스에서 오래된 영화들의 줄거리를 적절히 요약해주기를 기대하는 것조차 지나친 요구다.”
-본문 중에서

인공지능(Artificial Intelligence)이라는 말을 만든 존 매카시 교수는 1959년 처음

작가정보

저자(글) 게리 마커스

저자 : 게리 마커스
게리 마커스(Gary Marcus)

뉴욕대학교(New York University) 심리학·신경과학 교수이자 로버스트닷(AIRobust.AI) 창립자 겸 CEO다. 햄프셔대학교(Hampshire College)에서 인지과학으로 석사 학위를, MIT대학교에서 뇌과학 연구로 박사 학위를 마쳤다. 심리학, 언어학, 분자생물학을 통합해 인간 마음의 기원을 연구한 세계적인 학자로 손꼽힌다. 23세의 나이로 MIT대학교에서 스티븐 핑커 교수의 지도하에 뇌와 인지과학을 연구했으며 1996년 전도유망한 젊은 심리학자들에게 수여되는 로버트 판츠상(Robert Fantz award)을 수상했다. 저자는 뇌과학과 진화심리학, 언어학 등 분야를 넘나들며 〈뉴욕타임스〉, 〈월스트리트저널〉, 《뉴요커》, 《네이처》 등 유수의 일간지와 잡지에 흥미롭고 풍부한 인사이트가 넘치는 글을 기고하며 대중과 호흡하는 지성으로 알려져 있다. 2016년에는 우버의 자회사인 머신러닝 스타트업 지오메트릭 인텔리전스(Geometric Intelligence)를 설립하고 최고경영자로 재직했다.
저서로는 세계적인 베스트셀러 《클루지》, 《마음이 태어나는 곳》, 《뇌과학의 비밀》 등이 있다.

저자 : 어니스트 데이비스
어니스트 데이비스(Ernest Davis)

뉴욕대학교의 쿠란트 수학연구소(Courant Institute of Mathematical Sciences)에서 컴퓨터공학을 가르치고 있다. 그는 AI의 상식적 추론(commonsense reasoning) 영역에서 세계적이고 독보적인 전문가로 꼽힌다. 저서로는 《상식적 지식의 표상》(Representations of Commonsense Knowledge) 외 3권이 있다.

역자 : 이영래
이화여자대학교 법학과를 졸업하고 리츠칼튼 서울에서 리셉셔니스트로, 이수그룹 비서 팀에서 비서로 근무했으며 현재 번역에이전시 엔터스코리아에서 전문 번역가로 활동하고 있다.
주요 역서로는 《파타고니아, 파도가 칠 때는 서핑을》, 《블리츠스케일링》, 《제프 베조스, 발명과 방황》, 《모두 거짓말을 한다》, 《마음이 무기가 될 때》, 《제4의 시대》, 《뇌는 팩트에 끌리지 않는다》 등이 있다.

저자(글) 어니스트 데이비스

번역 이영래