AI 윤리에 대한 모든 것

마크 코켈버그 지음 | 신상규 , 석기용 옮김

아카넷 2024년 11월 15일 출간 국내도서 : 2023년 08월 25일 출간

작품소개

책소개

MIT 출판부의 ‘필수 지식 시리즈’ 중 하나인 AI Ethics(2020)를 옮긴 『AI 윤리에 대한 모든 것』은 현대판 '프로메테우스의 불'로 일컬어지는 인공지능 기술과 관련한 윤리적 쟁점을 포괄적이고 체계적으로 망라하는 가운데 그에 대한 실천적 대응 방향을 제시한 책이다. 18세기 산업혁명의 뒤를 이어 AI 기술의 눈부신 혁신과 함께 도래한 ‘제2의 기계 시대’는 AI에 대한 깊은 감탄과 실존적 두려움이라는 상반된 감정을 동시에 불러일으키고 있다. 오늘날 AI는 이미 운송, 마케팅, 건강관리, 금융과 보험, 보안, 군사, 과학, 교육, 사무, 엔터테인먼트, 예술, 농업, 제조업 등 많은 영역에서 활용되고 있으며, 심지어 법원의 의사 결정이나 치안에도 사용되고 있다. 바야흐로 기계가 인간을 ‘보완’하는 수준을 넘어 ‘대체’하는 수준으로까지 진화하면서 공상과학소설에서나 묘사된 장면은 이제 현실 세계로 들어오게 되었다.

이러한 전례 없는 기술적 도약은 인류의 자기 이해에 심대한 도전을 제기했을 뿐만 아니라, 여러 가지 윤리적, 사회적, 정치적 이슈를 야기했다. 이를테면 기계가 인간의 지능을 능가할 것이라는 발상이 담긴 ‘초지능’이나 ‘기술적 특이점’ 같은 개념은 인간 예외주의 혹은 인본주의에 대한 우리의 오래된 믿음을 그 뿌리부터 뒤흔들고 있으며, 그로 인해 AI가 인간의 삶을 장악하고 위협할 수 있다는 공포를 불러일으키는가 하면, 자율 주행 자동차나 자율 살상 무기에는 도덕적 책임을 어떻게 부여해야 하는지, 무엇인가 일이 잘못되면 누가 책임져야 하는지 같은 질문을 던지게 한다. 또한 AI로 인한 개인 정보 침해나 전체주의의 위험성, 사회적 불평등이나 편견 강화에 대한 우려 또한 꾸준히 제기되고 있다. 이와 같이 새로운 기술로 인해 의도하지 않은 결과가 초래될 수도 있다는 점에서 AI는 ‘오펜하이머의 원자탄’에 비견되기도 한다.

이 책은 AI를 둘러싼 수많은 과장된 서사를 넘어 AI 윤리와 관련한 거의 모든 문제와 쟁점을 다양한 각도에서 입체적으로 다룬다는 점에서 우리가 직면한 새로운 기술 세상을 한층 폭넓은 시선으로 조망하게 한다. AI 열풍과 함께 AI 윤리를 다룬 책들이 국내에도 이미 여럿 나와 있지만, 특정한 문제만을 다루거나 교양 차원에서 가볍게 읽을 만한 것들이 대부분이다. 주제의 범위나 문제를 다루는 방식에서 상당히 종합적이고 체계적이며 정확하여 다른 책들과 뚜렷이 차별되는 이 책은 인간과 기계의 조화로운 공존을 위한 성찰적 화두를 던져 준다는 점에서 어느 때보다도 지금 여기의 우리에게 긴요하게 다가올 것이다.

현재 오스트리아 빈대학교에서 미디어 기술 철학을 가르치고 있으며, 철학과기술학회Society for Philosophy and Technology 전 대표이기도 한 저자 마크 코켈버그Mark Coeckelbergh는 인공지능을 비롯한 과학기술 관련 담론을 주도적으로 이끌고 있는 벨기에 출신의 세계적인 학자로, 우리 시대 기술철학 분야에서 가장 다재다능하고 깊이가 있으며 독창적인 사상가로 손꼽힌다. 유네스코 세계과학기술윤리위원으로 임명되어 정책 자문에도 참여하고 있는 그는 인간의 본성과 미래에 대한 깊이 있는 철학적 이해를 보여 주는 한편으로, 기술로 인해 야기되는 당면 문제들에 대해 정책적으로 어떻게 대응해야 할지를 제시하는 등 이론가이자 실천가로서의 면모를 이 책에서 두루 유감없이 보여 준다.

목차

1장 거울아 거울아
인공지능에 대한 과장과 두려움: 거울아, 거울아, 우리 중 누가 가장 똑똑할까?|AI의 영향력|윤리적, 사회적 문제에 대한 논의를 위하여

2장 초지능, 괴물, 인공지능 묵시록
초지능과 트랜스휴머니즘|프랑켄슈타인의 새로운 괴물|초월과 인공지능 묵시록|경쟁 서사와 과장된 이야기를 넘어

3장 인간에 관한 모든 것
일반 인공지능은 가능한가?|근대성, (포스트)휴머니즘, 포스트현상학

4장 단지 기계?
AI의 도덕적 지위|도덕 행위주체성|도덕적 피동성|더 실천적인 윤리적 문제를 향하여

5장 기술
인공지능이란 무엇인가?|다양한 접근 방식과 하위 분야|적용과 영향

6장 데이터 (과학)을 잊지 말자
기계 학습|데이터 과학|응용

7장 프라이버시와 기타 유력 용의자들
프라이버시와 데이터 보호|조작, 착취, 취약한 사용자|가짜 뉴스, 전체주의의 위험성, 그리고 개인 관계에 미치는 영향|안전과 보안

8장 책임 없는 기계와 설명할 수 없는 결정
우리는 도덕적 책임을 어떻게 부여할 수 있을까?|투명성과 설명 가능성

9장 편향과 삶의 의미
편향|일의 미래와 삶의 의미

10장 정책 제안
해야 할 일과, 정책 입안자들이 답해야 할 질문들|윤리적 원칙과 정당성|기술적 해결책 및 방법과 운영의 문제

11장 정책 입안자들의 과제
선제적 윤리|실천 지향과 상향식|긍정적 윤리를 향해|간학문적 연구와 학제 초월성|AI 겨울의 위험과 무분별한 AI 사용의 위험성

12장 문제는 기후야, 바보야!
AI 윤리는 인간 중심적이어야 할까?|우선순위 올바르게 정하기|AI, 기후 변화, 인류세|새로운 우주 열풍과 플라톤적 유혹|지구로의 귀환|지성과 지혜를 찾아서

감사의 말
주석
옮긴이의 말
용어 해설
참고 문헌
추천 자료

책 속으로

- 이 책은 AI의 미래에 대한 영향력 있는 서사와 인간의 본성과 미래에 관한 철학적 질문에서부터 책임과 편견에 대한 윤리적 우려, 그리고 기술로 인해 제기되는 현실 세계의 실천적인 문제를 정책을 통해 처리하는 방법에 이르기까지, 폭넓게 이해된 AI의 윤리적 문제에 대한 좋은 개괄을 가능한 한 너무 늦지 않게 독자에게 제공하는 것을 목표로 하고 있다.(21~22쪽)

- AI에 대한 서구의 사고는 이러한 근대적 공포와 매혹, 그리고 그 고대의 뿌리라는 감옥에 갇혀 있을 운명인가? 우리는 과장된 이야기를 넘어설 수 있을까, 아니면 논의의 초점이 계속 초지능에 맞춰질 것인가? 나는 우리에게 탈출구가 있다고 생각한다. 첫째, 우리는 서구 문화 바깥에서 기술에 관한 비프랑켄슈타인적 서사와 비플라톤적 사고방식을 찾아볼 수 있다.(41쪽)

- 대륙 철학자들은 대개 인간과 마음은 기계와 근본적으로 다르다는 점을 강조하며, 형식적인 기술이나 과학적 설명으로 환원될 수 없고 또한 환원되어서도 안 되는 자기의식적인 인간 경험과 인간 실존에 초점을 맞춘다. 그러나 대개 분석철학 전통에 속하는 다른 철학자들은 AI 연구자들의 인간관을 지지한다. 이들은 인간의 뇌와 마음은 컴퓨터 모델과 실제로 같으며 그렇게 작동한다고 생각한다.(48쪽)

- 원칙적으로 인간과 기계 사이에는 많은 유사성이 있으며 이론적으로 일반 AI가 가능하다고 믿는 과학자와 철학자조차도 보스트롬의 초지능에 대한 비전이나 인간-같은 AI가 머지않았다는 유사한 생각을 거부하는 경우가 많다는 점에 다시 한번 주목하자.(50쪽)

- AI에 대한 윤리적 논의를 간접적으로 형성하는 세 가지 분열에 대해 간략히 살펴보자. 첫 번째는 근대 초기에 빚어진 계몽주의와 낭만주의 사이의 분열이다. 다른 둘은 비교적 최근에 전개된 일이다. 하나는 근대성의 긴장 속에 자리하고 있는 휴머니즘과 트랜스휴머니즘 사이의 분열이고, 다른 하나는 근대성을 넘어서려는 휴머니즘과 포스트휴머니즘 사이의 분열이다.(52쪽)

- 포스트휴머니스트들은 근대 존재론과 윤리학에서 인간의 중심성에 의문을 제기한다. 이들에 따르면 비인간도 중요하며, 우리는 인간과 비인간 사이의 경계를 넘는 것을 두려워해서는 안 된다. 이는 인간과 기계의 경쟁 서사를 넘어서게 한다는 점에서 흥미로운 탐구의 방향이다.(56쪽)

- 이러한 포스트휴머니즘에 힘입어 AI는 인간을 모방하거나 재구성해야 한다는 부담에서 벗어나 여러 다른 비인간 종류의 존재, 지능, 창의성 등을 탐색할 수 있을 것으로 보인다. AI가 꼭 인간의 모습으로 만들어질 필요는 없다. 여기서 진보란 인간을 넘어 비인간적인 존재에게 자신을 개방하고 그것으로부터 배우는 것을 의미한다.(57~58쪽)

- AI에 대해 생각하는 것은 AI에 관해서만 알려 주는 것이 아니라, 우리 자신에 대해서도 무엇인가를 알려 준다. 우리가 어떻게 생각하고, 실제로 어떻게 비인간과 관계 맺고 있으며 또 관계 맺어야 하는지에 관해서 말이다. (중략) AI에 관한 질문은 인간 지식, 인간 사회, 인간 도덕의 본성에 관한 비판적 질문의 심연을 열어 준다.(77쪽)

- 그 자체로 존재하는 AI는 없다는 말의 또 다른 의미는 기술이 항상 사회적이며 인간적이라는 것이다. AI는 기술에 관한 것일 뿐만 아니라, 인간이 그것으로 무엇을 하는지, 어떻게 그것을 사용하는지, 어떻게 그것을 지각하고 경험하는지, 어떻게 그것을 더 넓은 사회적·기술적 환경에 내장시키는지에 관한 것이다. 이는 인간의 결정에 관한 것이기도 한 윤리학에 중요하며, 윤리학이 역사적·사회적·문화적 관점도 포함할 필요가 있음을 의미한다.(96쪽)

- 여기서 위험은 오늘날의 민주주의 사회에서도 AI가 새로운 형태의 조작, 감시, 전체주의로 이어질 수 있으며, 반드시 권위주의 정치의 형태가 아니더라도 더 은밀하되 대단히 효과적인 방식으로 그렇게 될 수 있다는 것이다.(120쪽)

- AI에 특화된 또 다른 쟁점은 편향 문제다. AI가 결정을 내리거나, 아니 더 정확하게는 결정을 추천할 때 편향이 발생할 수 있다. 그 결정이 특정 개인이나 집단에 부당하거나 불공정할 수 있다는 것이다.(149쪽)

- 한계를 설정하는 부정적 윤리 말고도 좋은 삶과 좋은 사회의 비전을 발전시키는 긍정적 윤리를 명시적이고 정교하게 만들어야 할 필요가 있다.(204쪽)

출판사 서평

AI를 둘러싼 과장된 서사를 넘어서

이 책은 먼저 AI의 발전과 미래를 말하는 영향력 있는 서사들을 소개하는 것으로 시작한다. 가장 대표적인 것으로는 종국에는 우리가 기계를 지배하는 것이 아니라 기계가 우리를 지배하게 될 것이라는 초지능에 대한 이야기다. 이것은 폭발적인 기술 발전으로 인해 세상에 도대체 무슨 일이 일어나는지 더는 이해할 수 없을 정도가 됨으로써 인간사가 종말을 고하고 말 것이라는 기술적 특이점이라는 생각과 밀접한 관계가 있다. 따라서 오늘날 우리가 직면한 과제는 AI를 어떻게든 우리가 원하는 대로 통제할 수 있어야 한다는 것이고, 그러기 위해서는 첨단 기술을 이용해 인간 스스로 자신을 ‘신’으로 업그레이드해야 한다고 한편에서는 주장한다. 저자는 이와 같은 인간과 기계의 경쟁 서사 혹은 ‘프랑켄슈타인 콤플렉스’를 넘어서기 위한 해법을 서구 문화 바깥에서 찾는다. 거기에는 종말에 관한 사상도 없고, 인간은 근본적으로 기계보다 우월하며 물질성을 초월하려는 존재임을 끊임없이 옹호하는 플라톤적 욕망도 없으며, 기계에 대해 보다 우호적인 태도를 발견할 수 있기 때문이다.

이어서 저자는 AI를 둘러싼 과장된 이야기를 넘어서고 AI에 대한 윤리적 논의를 단순히 미래에 대한 꿈 혹은 악몽으로 제한하지 않기 위해 기계에서 인간 같은 지능이 가능한지, 인간과 기계의 차이점은 무엇인지, AI는 단지 기계일 뿐인지 아니면 어떤 형태의 도덕적 고려를 받을 자격이 있는지 등을 하나하나 검토한다.

그런 뒤 저자는 AI에 관한 철학적 논의나 역사적 맥락화를 뒤로하고 AI 기술이 오늘날 우리 삶에서 실제로 어떻게 작동하고 있는지를 설명하기 위해 AI의 역사와 함께 기호적 AI나 신경망 인공지능 같은 기술을 소개하고 기계학습, 데이터 과학을 자세히 들여다본다. 그리고 프라이버시, 투명성, 설명 가능성, 편향, 공정성, 불평등 등 AI 윤리에서 다루어지는 쟁점들을 개괄한 다음 이러한 이슈들에 정책적으로 어떻게 접근할지를 검토한다. 마지막으로 기후 변화나 에너지 문제 같은 전 지구적 현안을 AI 문제와 연관 지어 논의함으로써 지속 가능한 삶을 구축하는 방법에 대해 더 깊이 돌아보게 한다. 옮긴이는 이렇게 말한다.

“AI를 그저 막연하게 두려워하거나, 밑도 끝도 없이 무작정 신뢰하거나, 혹은 우리에게 아무 선택권도 없다면서 단지 AI의 혜택과 해악을 감수할 뿐이라고 수동적으로 물러나 있지만 말고, 이 책을 통해서 우리가 AI에 대해서 그리고 AI와 함께 어떤 일을 할 수 있고 또 해야 하는지 고민할 수 있는 계기가 마련되었으면 한다.”

작가정보

저자(글) 마크 코켈버그

Mark Coeckelbergh
인공지능을 비롯한 과학기술과 관련한 담론을 이끌고 있는 벨기에 출신의 세계적인 학자로, 오늘날 기술철학 분야에서 가장 다재다능하고 깊이가 있으며 독창적인 사상가 중 한 명으로 꼽힌다. 2007년에 네덜란드 생명윤리학회상을 받았고, 2014년에 기술철학 석사 프로그램 최우수 강사로 임명되는 등 전 세계적으로 명성을 쌓아 가고 있다. 영국 드몽포트대학교에서 기술과 사회적 책임에 대해 가르쳤으며, 현재는 오스트리아 빈대학교에서 미디어와 기술 철학 교수로 재직 중이다. 저서로 『성장하는 도덕적 관계』, 『인간 존재@위험』, 『환경 기술』, 『돈 기계』, 『뉴 로맨틱 사이보그』, 『무브드 바이 머신』, 『기술철학 입문』 등이 있다.

번역 신상규

이화여자대학교 이화인문과학원 교수로 재직 중이며, 저서로 『호모사피엔스의 미래』, 『푸른 요정을 찾아서』, 『과학기술 문명에 대한 성찰』(공저), 『포스트휴먼이 몰려온다』(공저), 『인문 테크놀로지 입문』(공저) 등이 있고, 역서로는 『철학적 포스트휴머니즘』, 『내추럴-본 사이보그』, 『우주의 끝에서 철학 하기』 등이 있다.

번역 석기용

성신여자대학교 교양학부 교수로 재직 중이며, 저서로 『비판적 사고와 토론』(공저)이 있고, 역서로는 『정보철학 입문』, 『낭만주의의 뿌리』, 『편견』, 『좌절의 기술』, 『비트겐슈타인과 세기말 빈』, 『난파된 정신』, 『그리고 나는 스토아주의자가 되었다』, 『삶의 품격에 대하여』, 『사이보그 시티즌』 등이 있다.