왜 로봇의 도덕인가

스스로 판단하는 인공지능 시대에 필요한 컴퓨터 윤리의 모든 것

웬델 월러치 , 콜린 알렌 지음 | 노태복 옮김

메디치미디어 2014년 07월 10일 출간 국내도서 : 2014년 06월 20일 출간

작품소개

책소개

인공지능 시대에 필요한 로봇 윤리의 모든 것!

공상과학 소설과 영화에서만 지능적 기계를 볼 수 있었던 과거와 달리, 현대에는 자동차에서부터 쓰레기통에 이르기까지 상상 가능한 온갖 장치 속에 인공지능이 내장되어 있다. 이러한 발전은 인간의 활동을 편리하게 만들었지만, 문제는 인간의 감독을 벗어나 스스로 결정을 내릴 수 있는 컴퓨터 시스템에 의해 큰 재앙이 일어날 가능성이 점점 늘어나고 있다는 점이다. 그렇다면 로봇을 포함한 모든 지능적 기계의 지침이 될 윤리적 규칙을 어떻게 만들어야 할까?

『왜 로봇의 도덕인가』는 로봇의 윤리에 대한 포괄적인 안내서로, 왜 로봇의 도덕에 대한 연구가 지금 필요하며 그것에 관련된 기술적 사안은 무엇인지를 상세히 설명한다. 공상과학영화 《2001 스페이스 오디세이》나 《터미네이터》의 종말 시나리오는 과연 실현 가능한가 라는 이야기부터, 만약 컴퓨터가 도덕적 결정을 내리는 것이 필요하다면 공학자와 철학자는 이를 어떻게 설계해야 하는가 라는 실제적인 공학적 과제까지 체계적으로 살핀다.

아리스토텔레스 이래 ‘무엇이 옳고 그른가’라는 가치 판단은 가장 첨예한 인문학적 고민이었다. 한편, 명쾌한 지침과 계량화된 기준값이 있어야 연구 가능하다는 것이 공학자들의 멘탈 모델이다. 이 책은 인문학적 모호성을 명쾌한 알고리즘으로 변환해 프로그램으로 만드는 공학적 과제가 얼마나 어려운 일인지 알려주는 동시에 왜 그토록 어려운 일을 고민해야 하는가를 깨닫게 해준다.

목차

감사의 말씀

프롤로그_ 로봇의 도덕을 구현하는 일은 인간을 이해하는 과정이다

1장_ 왜 로봇의 도덕인가?
2장_ 공학 윤리
3장_ 인류는 컴퓨터가 도덕적 의사결정을 내리기를 원하는가?
4장_ (로)봇이 정말로 도덕적일 수 있는가?
5장_ 철학자, 공학자 그리고 AMA의 설계
6장_ 하향식 도덕
7장_ 상향식 그리고 발전적 접근법
8장_ 하향식과 상향식의 병합
9장_ 베이퍼웨어를 넘어서?
10장_ 이성을 넘어
11장_ 인간과 비슷한 AMA
12장_ 위험, 권리 그리고 책임

에필로그_ (로)봇의 마음 그리고 인간의 윤리

주석
참고문헌
색인

책 속으로

이 책은 기술 발전이 몰고 올 공포에 관한 내용이 아니다. 우리의 목표는 AMA 설계라는 엔지니어링 과제에 건설적인 지침을 마련해줄 논의의 틀을 잡는 일이다. 우리가 내놓는 예측의 목적은 도덕적 기계에 관한 연구의 필요성에 지금 주목하자는 것이다. 기술이 공상과학 소설을 따라잡게 되는 몇십 년 내지 100년 후가 아니고 말이다.
(17쪽)

기계의 도덕 분야는 컴퓨터 윤리 분야를 확장시켜 사람이 컴퓨터로 무엇을 할까 라는 관심을 넘어 기계가 스스로 무엇을 할까 라는 질문을 다룬다. … 우리는 컴퓨터를 명쾌하고 도덕적으로 추론할 수 있도록 만드는 데 관련된 기술적 사안들을 논의할 것이다.
인공지능(artifcial intelligence, AI)이 자동 행위자의 범위를 확장시켜감에 따라 그러한 행위자들이 인간 도덕 행위자들에게 요구되는 더욱 폭넓은 가치와 법칙을 존중하도록 어떻게 설계할 것인가 라는 문제는 점점 더 긴급한 과제가 돼가고 있다. 인간은 컴퓨터가 도덕적으로 중요한 결정을 내리기를 정말로 원하는가? 기술에 관해 고찰하는 여러 철학자들은 인간이 자신의 책임을 기계에 떠넘기는 것의 위험성에 대해 경고해왔다. 영화와 잡지들은 미래에 발전된 형태의 AI가 가져올 위험을 부각하는 이야기로 가득 차 있다. … 그러므로 이 기술에 이해관계가 있는 사람이라면 누구든 컴퓨터·로봇 그리고 컴퓨터 네트워크 속의 가상 ‘봇 bots’에 도덕적 결정을 실행시키는 과제에 발 벗고 나서야 할 책임이 있다.
(17~18쪽)

〈터미네이터 The Terminator〉의 종말 시나리오도 그 영화의 유통기한인 2029년 이전에는 실현되지 않는다고 보는 편이 타당할 것이다. … 하지만 인류는 공학적으로 설계된 시스템들이 의사결정을 할 수 있고, 이로 인해 인간의 삶에 영향을 미칠 뿐 아니라 윤리적 효과를 야기할 수 있는 지점에 이미 와 있다.
(20~21쪽)

기계의 도덕은 AMA 구현의 철학적, 실제적 사안만큼이나 인간의 의사결정에 관한 것이기도 하다. AMA에 관한 성찰 그리고 이를 제작하기 위한 실험을 살펴보면 인간이 어떻게 작동하는지, 어떠한 인간의 능력들이 기계 설계에 구현될 수 있는지, 그리고 인간이 동물 또는 인간이 창조한 새로운 형태의 지성과 구별되는 속성이 무엇인지 깊이 생각할 수밖에 없다. AI가 마음에 관한 철학 분야에 새로운 탐구 방향을 이끌어냈던 것과 마찬가지로 기계의 도덕은 윤리학에 새로운 탐구 방향을 이끌어낼 수 있다.
(22쪽)

(로)봇 시스템이 금융에서 통신, 나아가 공공 안전에 이르기까지 사회의 거의 모든 분야에서 점점 더 자리잡아감에 따라 재난은 예기치 못한 사건들의 조합에서 생길 가능성이 가장 크다. … 컴퓨터 시스템의 행동은 개별적으로는 꽤 사소하지만 다 합쳐지면 매우 심각해질 수 있다. 구글의 연구소장인 피터 노빅(Peter Norvig)은 다음과 같이 말한다.
“오늘날 미국에서는 매일 의료 사고로 100명에서 200명 정도의 사람들이 죽는데, 이런 의료 사고의 상당수는 컴퓨터와 관련이 있다. 엉뚱한 약을 준다든지 용량을 잘못 계산하는 실수로 매일 100명에서 200명 정도가 죽는 것이다. 그런 사망자들 중 얼마만큼이 컴퓨터 실수 때문인지는 모르지만, 상당한 비율을 차지한다. 컴퓨터 실수와 의료 과정상의 잘못이 함께 결합해 두세 달마다 9/11 테러 때와 맞 먹는 사망자 수가 생긴다고 해도 과언이 아니다.”
… 잘못된 부품, 불충분한 설계, 부적절한 시스템 그리고 컴퓨터가 행하는 선택에 관한 명확한 평가 사이에 선을 긋기가 점점 더 어려워진다.
(192쪽)

출판사 서평

◆ 이 책은

로봇의 윤리에 대한 포괄적인 안내서

공상과학 소설과 영화를 통해 꾸준히 제기되어온 로봇의 도덕성은 각종 서비스 로봇, 전투병 로봇, 개인화된 검색엔진 기술, 자동화된 컴퓨터 시스템 등 지능 기계의 출현으로 이제 현실 속으로 들어오고 있다. 인간의 감독 없이 스스로 판단하는 인공지능 시대에 로봇을 포함한 모든 지능적 기계의 지침이 될 윤리적 규칙을 어떻게 만들어야 할까?
이 책은 로봇 윤리라는 신흥 분야에 관한 최초의 입문서이자 로봇의 도덕에 관한 포괄적인 안내서다. 예일 대학교의 ‘생명윤리를 위한 학제간 센터’의 윤리학자와 인디애나 대학교의 인지과학 교수가 공저한 이 책은, 공상과학 소설의 통속적 화두에서부터 첨단 로봇공학의 과제에 이르기까지 다양한 층위의 흥미로운 소재를 통해 왜 로봇의 도덕에 관한 연구가 지금 필요하며 그것에 관련된 기술적 사안은 무엇인지를 상세하게 설명한다.
영화 《2001 스페이스 오디세이》나 《터미네이터》의 종말 시나리오는 과연 실현 가능한가 라는 얘기부터, 만약 컴퓨터가 도덕적 결정을 내리는 것이 필요하다면 공학자와 철학자는 이를 어떻게 설계해야 하는가 라는 실제적인 공학적 과제까지 로봇공학?철학?인지과학?도덕심리학?신경윤리학?인공두뇌학?진화생물학?게임이론 등 다양한 분야의 최신 연구 성과를 토대로 체계적이고 명료하게 서술하고 있다.
무엇이 옳고 그른가 라는 가치 판단은, 그 판단을 내리기 애매한 경우가 다반사인 인간사 때문에 아리스토텔레스 이래 가장 첨예한 인문학적 고민이었다. 한편 명쾌한 지침과 계량화된 기준값이 있어야 연구 가능하다는 것이 공학자들의 멘탈 모델이다. 인문학적 모호성을 명쾌한 알고리즘으로 변환해 프로그램으로 만드는 공학적 과제가 얼마나 지난한 일인가 하는 것을 알려주는 동시에 왜 지금 우리가 그 지난한 일을 고민해야 하는가를 깨닫게 해주는 데 이 책의 의의가 있다.
저자들은 “이 책을 쓴 목적은 단지 많은 질문을 던지는 것뿐 아니라 이런 주제에 관한 향후의 발전을 위해 자료를 제공하기 위해서”라고 밝히면서 “이 도전 과제를 다루는 과정에서 인류는 자신들이 얼마나 경이로운 생명체인지를 이해하는 데 의미심장한 발전을 이룰 것이다. 인간의 능력을 (로)봇에 구현하는 데 필요한 단계적인 절차를 세세하게 밟아가며 도덕적 결정이 내려지는 방법에 따라 사고하는 연습은 따라서 자기 이해의 과정인 셈”이라고 말한다. 즉 옳고 그름을 구별할 수 있는 (로)봇 설계 과정이 인간의 윤리적 의사결정에 대해 많은 것을 드러내주는 일인 만큼 로봇의 도덕을 구현하는 일은 인간을 이해하는 과정이라는 얘기다.

◆ 내용 소개

왜 로봇의 도덕이 필요한가?
현대에는 자동차에서부터 쓰레기통에 이르기까지 상상 가능한 온갖 장치 속에 컴퓨터 칩이 내장되어 인간의 활동을 편리하게 해주며 감시하거나 분석하기도 한다. 또한 인터넷 검색에서부터 온라인 쇼핑에 이르기까지 상상 가능한 온갖 가상 환경 속의 소프트웨어 ‘봇(bot)’들도 그런 역할을 담당한다. 이 모든 발전은 인간에게 직접적인 조종을 받지 않으면서 인간의 복지에 잠재적인 영향을 미치는 (로)봇의 제작으로 수렴된다.
오늘날의 컴퓨터 시스템은 그 스스로 도덕적 결정을 내려야 할 정도로 엄청난 복잡성의 수준에 다다르고 있다. 이로 인해 도덕 행위자의 범위는 인간을 넘어 인공지능 시스템으로까지 확대되는데, 저자들은 이를 가리켜 ‘인공적 도덕 행위자 artificial moral agent, AMA’라고 부른다. 이때 AMA는 물리적 로봇과 소프트웨어 ‘봇(bot)’을 아울러 표현하는 ‘(로)봇’ 그리고 인공지능 시스템까지 포괄하는 개념이다.
문제는 인간의 감독을 벗어나 스스로 결정을 내릴 수 있는 컴퓨터 시스템에 의해 큰 재앙이 일어날 가능성이 점점 늘어나고 있다는 점이다. (로)봇 시스템이 금융에서 통신, 나아가 공공 안전에 이르기까지 사회의 거의 모든 분야에서 점점 더 자리잡아감에 따라 누군가의 범죄적 목적에 의해서가 아니라 재앙은 예기치 못한 사건들의 조합에서 생길 가능성이 커지기 때문이다.
현재의 컴퓨터는 워낙 복잡하다보니, 공학자는 어떤 시스템이 새로운 상황에서 어떻게 행동할지 예측할 수 없을 때가 흔히 있다. 수백 명의 공학자가 각자 자신이 맡은 부분의 설계를 담당한다. 서로 다른 회사?연구소 그리고 설계팀이 각각 별도의 하드웨어와 소프트웨어 구성부분을 개발하며 이것들을 결합해 최종 생산품이 나온다. 한 컴퓨터 시스템이 이처럼 모듈식 설계를 통해 생산되므로, 어떤 한 사람 또는 하나의 그룹은 그 시스템이 일련의 새로운 입력에 대해 어떻게 반응하고 작용할지 완벽히 파악할 수 없는 것이다.
저자들은, 그 재앙이 어떻게 시작되는가를 생생한

인물정보

저자(글) 웬델 월러치

저자 웬델 월러치(Wendell Wallach)는 예일 대학교의 생명윤리를 위한 학제간 센터(Interdisciplinary Center for Bioethics)에 소속된 컨설턴트이자 윤리학자. 이 센터의 기술과 윤리에 관한 연구팀을 이끌고 있으며 동물 윤리, 안락사 문제, 신경윤리에 관한 다른 연구팀의 일원이기도 한 그는 인지과학에 관한 저널인 《토픽스 TopiCS》의 부주필을 맡고 있다. 저서로 『The undistracted mind』 『Rescued Art Stories』 등이 있다.

저자(글) 콜린 알렌

저자 콜린 알렌(ColinAllen)은 인디애나 대학교의 과학철학사 및 인지과학 교수. 1960년에 영국에서 태어나 런던 대학교를 거쳐 UCLA에서 박사학위를 받았다. 논리학 및 언어철학을 공부했지만 좋은 철학은 좋은 과학에서 나오며 두 학문을 분리하는 것은 인위적이라고 믿는 그는, UCLA에 있으면서 인공 지능을 연구했으며 지난 10년 동안 도덕적 의사결정과 관련한 신기술 이슈에 전념했다. 저서로 『Logic Primer』 『Species of Mind』 『The Cognitive Animal』 『Nature's Purposes』 『The Evolution of Mind』 등이 있다.

번역 노태복