기계의 반칙

넬로 크리스티아니니 지음 | 김정민 옮김

한빛미디어 2023년 12월 18일 출간 종이책 : 2023년 11월 30일 출간

작품소개

책소개

25년 이상 인공지능 연구에 기여한 최고의 석학이 집필한 IT 과학교양서다. 현대 인공지능(AI)의 발전사부터 시작해, 주요 사건 사례들을 바탕으로 인공지능의 성장 과정을 살펴보고, 인간의 문화와 사회에 미치는 영향까지 조망한다. 특히 현재 인간의 삶과 인프라에 (치트키를 써서) 빠르고 깊게 침투 중인 지능형 기계의 무분별한 활용이 초래하는 의도치 않은 결과들을 객관적 시선으로 바라보며 강력하게 경고한다. 나아가 인간은 어떤 부분을 어떤 이유로 경계해야 하는지, 인공지능과 안전하게 공존하려면 지금부터 무엇을 해야 할지에 관한 다양한 아이디어를 제시한다.

목차

1장. 지능의 탐구
기대치 관리
지능 정의
규칙에 따르는 세계
생존 기법의 깜짝주머니
외계 지능
코페르니쿠스적 전환

2장. 치트키
“언어전문가를 해고하라”
고전적 인공지능
주기 순환: 호황, 거품붕괴 그리고 겨울
시애틀에서의 갈등
패러다임 전환
인공지능 역사에 등장한 세 가지 치트키
새로운 인공지능으로
바프닉의 법칙과 새로운 사고방식
새로운 레시피

3장. 세계의 질서를 찾아서
지능, 패턴 그리고 질서 있는 세계
지식의 한계
패턴과 인지 편향
기계가 할 수 있는 것
인간의 피조물 이해하기

4장. 러브레이스는 틀렸다
백작부인과 기계 이야기: 주석 G에서 37번째 수까지
학습하는 기계
학습하는 기계에 관한 아이디어
초인간: 알파고와 그 제국
창조자를 능가하는 피조물

5장. 의도를 벗어난 행동
원숭이 발
개별 위험 평가의 예
규제 영역과 보호받는 특성
민감한 정보 유출
아슬아슬한 순간, 오발령 경보, 실제 피해
현실에서 온 편향
다시, 원숭이 발

6장. 마이크로타기팅과 대중 설득
함부르크에서의 하루
함부르크로 가는 길
로제타 스톤 방식
인간의 자율성에 대하여
완전한 원

7장. 피드백 루프
최초로 대중화된 에이전트
개인화 요약 추천 에이전트
행동경제학과 영향력 있는 행동
제어 시스템으로서의 추천 에이전트
두 가지 수준의 효과
2차 효과에 대하여
피드백

8장. 결함
결함 이야기
설득 게임
하인인가, 조종자인가?
밤잠 설치게 하는 걱정거리

9장. 소셜 머신
초능력 게임
목적이 있는 게임
소셜 머신
자율적 소셜 머신
목표 중심 소셜 머신
소셜 머신으로서의 추천 시스템
평판 관리 시스템과 알고리즘형 규제
개미탑 아줌마 이야기
보이지 않는 손과 원숭이 발

10장. 금지가 아닌 규제
전원코드를 뽑을 수 있을까?
대융합
매체와 게이트키퍼
지능형 기계와 함께 살아가기
금지가 아닌 규제

출판사 서평

AI 시대 생존 전략: 우리는 앞으로 어디로 나아가야 하는가?

‘머신’이나 ‘기계’라고 하면 반짝이는 금속과 톱니바퀴, 오일 냄새 등을 반사적으로 연상하지만, 어원이나 단어의 의미상 반드시 ‘기계’가 금속으로 이루어져 있을 필요는 없다. 정교하게 구성된 생명체도 기계가 될 수 있고, 체계적으로 작동하는 소프트웨어도 기계가 될 수 있으며, 이 책에서도 언급하듯이 인간으로 구성된 소셜 플랫폼조차 기계가 될 수 있다.

이러한 ‘기계’가 인간의 창조물이라 해도 반드시 인간과 닮아 있어야 할 이유는 없다. 심지어 반드시 인간에게 익숙한 방식으로 작동해야 할 이유도 없다. 그리고 실제로 기계가 ‘인간이 이해할 수 없는’ 방식으로 작동하는 것은 일종의 치트키가 될 만큼 강력한 기술적 돌파구가 된 아이디어였으며 현대 인공지능 기계의 핵심적 특징이 되었다.

그러나 이것은 현재 인공지능 분야에서 발생하고 있는 오남용 및 규제 등의 문제를 해결해야 하는 인간이 처한 딜레마의 원인이기도 하다. 이 책은 현대 인공지능 기계의 특성, 문제 그리고 이를 해결할 방법에 대한 아이디어를 매우 심도 있는 논의와 함께 제시한다.
_ ‘옮긴이의 말’ 중에서

대상 독자
● 인공지능에 관심이 있는 학생
● 인공지능 분야에서 일하는 전문가
● 인공지능에 대한 규제를 연구하는 정책전문가 및 학자
● 인공지능에 대해 막연하게 낙관하는 사람 또는 불확실한 공포를 느끼는 사람

작가정보

저자(글) 넬로 크리스티아니니

(Nello Cristianini)
머신러닝 및 인공지능 분야에 20년 이상 종사하고 있는 저명한 연구자다. 바스 대학교에서 인공지능 학과 교수로 재직 중이며, 그 전에는 브리스틀 대학교, 캘리포니아 대학교 데이비스(UCD), 로열 홀러웨이 런던 대학교에서 일했다. 머신러닝 분야 연구로 ‘왕립학회 울프슨 우수연구상(Royal Society Wolfson Research Merit Award)’과 ‘유럽연구위원회 경력연구원 장학금(ERC Advanced Grant)’을 받았다. 머신러닝 분야의 영향력 있는 저서를 집필했으며 인공지능에서 과학철학, 디지털 인문학에서 자연어 처리, 사회학에서 생물학에 이르기까지 다양한 분야의 학술지에 게재된 학술 논문 수십 건의 공동 저자이기도 하다. 2017년에는 유럽의회의 유럽기술영향평가국(STOA)에서 인공지능의 사회적 영향을 주제로 연례 강연했으며, 이는 현재도 크리스티아니니가 열심히 연구하는 주제다. 트리에스테 대학교에서 물리학 학위를, 계산지능(computational intelligence)으로 런던 대학교에서 석사 학위를, 브리스틀 대학교에서 박사 학위를 받았다.

번역 김정민

서울대학교 컴퓨터공학과를 졸업하고 SK텔레콤에서 소프트웨어 엔지니어로 근무했다. 변호사 자격을 취득하고 현대자동차, 헬스케어 회사, 블록체인 회사 등을 거쳐 특허, 저작권, 영업비밀, 개인정보, 기술전략, 규제대응 그 외 폭넓은 영역에서 다양한 기술 및 법률자문을 제공하고 있다. 옮긴 책으로는 『기계는 어떻게 생각하고 학습하는가』(한빛미디어, 2018), 『컴퓨터 프로그램의 구조와 해석』(인사이트, 2016 ), 『소프트웨어 개발의 지혜』(야스미디어, 2004) 등 10여 권이 있다. 현재 법무법인 인헌의 파트너 변호사로서 좋은 책이 더 많은 사람에게 알려지도록 노력한다.