인공지능, 마음을 묻다

김선희 지음

한겨레출판사 2023년 02월 16일 출간 종이책 : 2021년 08월 26일 출간

작품소개

책소개

인공지능은 마음을 가질 수 있을까
인간을 사랑하거나, 속일 수 있을까

인공지능의 발전 속도는 무섭다. 딥마인드에서 개발한 인공지능 알파폴드는 기계학습으로 코로나19 백신의 3차원 단백질 구조를 예측하는 데 성공했다. 2016년 이세돌 9단에 압승을 거둔 알파고 리는 인간이 제공한 빅데이터로 학습했지만, 1년 뒤에 나온 알파고 제로는 데이터 없이 스스로 학습하여 36시간 만에 알파고 리를 능가했다.
《인공지능, 마음을 묻다》는 인공지능의 원리를 꼭 필요한 기본개념으로 이해하기 쉽게 풀어낸다. 공학과 수학의 언어를 빌리지 않고도, 인공지능의 지적 활동이 어떤 원리와 방법으로 이루어지는지 일반인이 충분히 이해할 수 있도록 서술한다. 저자와 함께 7가지 질문, ‘인공지능은 인간을 속일 수 있는가’, ‘인공지능은 마음을 구현할 수 있는가’, ‘감정을 느낄 수 있는가’, ‘생명과 개성을 가질 수 있는가’, ‘예술을 감상할 수 있는가’, ‘인공지능과 사랑할 수 있을까’, ‘인공지능은 젠더 정체성을 갖는가’, ‘인공지능을 믿을 수 있을까’에 대답하다 보면, 미래에 인공지능이 할 수 있는 지적인 과제들을 올바로 예견할 수 있다.

신뢰에서 사랑까지,
마음을 탐색하는 7가지 철학 수업

철학자는 인공지능에 대해 우리에게 무엇을 가르쳐줄 수 있을까? 이 책은 철학자가 생각하는 법과, 우리가 철학에서 무엇을 배울 수 있는지를 잘 보여준다. ‘인공지능은 생각할 수 있는가?’라는 물음은 ‘생각’과 ‘마음’이 무엇인지에 대한 물음으로 이어진다. 저자는 생각이라는 개념을 직관, 감정, 공감, 의식 등으로 상세하게 나누고, 이 지적 활동 각각이 무엇인지 차근차근 따져본다. 직관과 감정, 공감, 의식이 무엇인지 알아야만 기계가 감정을 느낄 수 있는지, 인간에게 공감할 수 있는지, 인간을 사랑할 수 있는지 우리가 대답할 수 있기 때문이다.
모두 7장으로 이루어진 이 책의 1장에서 저자는 ‘마음’에 대한 한 가지 이론을 소개한다. 그것은 바로 ‘기능주의’다. 이 이론은 오늘날 인공지능의 학습과 행동을 설명하는 틀이다. 인공지능의 원리를 발명해냈다고 평가받는 수학자 앨런 튜링이 제시한 이론이기도 하다. 2장에서는 기능주의를 바탕으로 삼아 의식과 직관을 따져본다. 3장에서는 감정의 문제를 다루고, 4장과 5장, 6장에서는 개성, 예술 감상, 사랑의 문제를 다룬다.
저자는 7장과 맺음말에서 ‘신뢰’라는 주제를 제기한다. 우리는 인공지능을 신뢰할 수 있을까? 여기서 신뢰는 인공지능의 지적 능력이 어떻게 만들어지는지, 즉 인공지능이 무엇을 어떻게 배우는지의 문제로 연결된다. 구글 번역기가 터키어를 영어로 번역하는 과정에서 보여준 결과가 이에 대해 결정적인 점을 시사한다. 이 일은 2017년 미국 시카고 대학교 학생인 알렉스 샴스(Alex Shams)가 트위터에 공개하면서 알려졌다.

우리는 인공지능을 신뢰할 수 있을까

터키어는 3인칭 대명사(그, 그녀, 그들)에서 성별이 구분되지 않는 언어이다. 예컨대 남녀 구별 없이 ‘그 사람은 의사다, 그 사람은 베이비시터다’라고 표기한다. 그런데 구글 번역기는 이 문장을 영어로 ‘그 남자는 의사다, 그 여자는 베이비시터다’라고 번역했다. 터키어가 성별이 표시되지 않는 언어인데도, 의사의 성을 남성 베이비시터의 성은 여성이라고 역할에 따라 다르게 성별을 부여한 것이다. 이 일은 인공지능이 간호사나 돌보미의 역할은 여성성으로, 의사나 법조인 등 전문직이나 권위적 지위의 역할은 남성성으로 규정하는 낡은 젠더 규범을 그대로 반영하고 있음을 보여준다.
이 책 《인공지능, 마음을 묻다》는 코딩과 알고리즘을 익히기 전에 먼저 알아야 할 인공지능의 기본 원리를 안내한다. 원리를 이해하면 문제를 해결할 실마리가 보인다. 앞으로 인류가 직면할 인공지능의 문제를 예견하는 데, 이 책만 한 입문서가 없을 것이다.

목차

서문

1장 인공지능은 우리를 속일 수 있는가

생각하는 기계 ㆍ 튜링 테스트 ㆍ 기능주의 ㆍ 코기토 테스트 ㆍ 중국어 방 ㆍ
사고는 의식을 동반하는가

2장 인공지능은 마음을 구현할 수 있는가
두 개의 마음 ㆍ 기능화 ㆍ 의식과 감각질 ㆍ 직관 ㆍ 주관적 관점

3장 인공지능은 감정을 느낄 수 있는가
의식 없는 좀비 ㆍ 할의 두려움 ㆍ 두 가지 방향 ㆍ 공감 ㆍ 상담사 일라이자 ㆍ 상담

4장 인공지능은 생명과 개성을 가질 수 있는가
생물학과 전자공학 ㆍ 생명 ㆍ 사만다의 숨소리 ㆍ 개성의 조건 ㆍ 캐릭터 봇 ㆍ 몸을 가진 인공지능

5장 인공지능은 예술을 감상할 수 있는가
색깔 지각하기 ㆍ 흑백 방 사고실험 ㆍ 그림 감상 ㆍ 놀이 ㆍ 원작의 가치

6장 인공지능과 사랑할 수 있을까
사랑 ㆍ 육체 ㆍ 다른 사랑 ㆍ 전자 부활 ㆍ 텔레파시

7장 인공지능은 젠더 정체성을 갖는가
젠더 정체성 ㆍ 편견 학습 ㆍ 공정성 ㆍ 편향성 교정하기 ㆍ 교육과 사회화

맺음말 인공지능을 믿을 수 있을까
신뢰 ㆍ 가치의 충돌 ㆍ 윤리 ㆍ 공존

책 속으로

알파고는 더 진화하고 있으며, 앞으로 알파고를 이길 수 있는 인간은 없을 것입니다. 아마도 이세돌이 알파고를 단 한번이라도 이긴 유일한 인간으로 기록될 것입니다. (7쪽)

인공지능이 생각하는 방법, 추론하는 방법, 수를 읽는 방법, 학습하는 방법 등은 사실상 기본적으로 동일합니다. 기계학습의 종류가 다양하다고 할지라도 설정하는 조건들이 다를 뿐, 인공지능이 작동하는 기본 원리는 같다고 볼 수 있죠. (…) 인공지능의 원리를 토대로, 기계가 사고하고 사물을 인지하는 방법, 주어진 과제에 접근하고 해결하는 방법, 스스로 학습하는 방법을 이해한다면 미래에 인공지능이 할 수 있는 지적인 과제들을 올바로 예견할 수 있을 것입니다. (8쪽)

기능주의 관점에서 보면 인간의 사고 과정이나 인공지능의 사고 과정은 동등합니다. (26쪽)

우리는 이 지점에서 인공지능의 의식에 관한 중간 결론을 얻을 수 있습니다. 그리고 이 중간 결론이 제시하는 두 가지 방향에서 인공지능의 미래를 탐색해볼 수 있습니다.
첫째, 감정을 최대한 기능화할수록 인공지능은 감정을 더 잘 구현하고 점차 인간의 의식에 가까워진다는 것입니다. 그리하여 인공지능 기술이 발전하면 의식을 갖는 기계가 나올 수도 있다는 것이지요. 인공지능이 진화하여, 두뇌 신경망을 모의한 연결기계 및 두뇌 신경망의 인과력을 복제한 인공지능 기계가 나온다면, 인공지능도 반성적 성찰과 의식을 가질 수 있을 것이라고 기대하는 것입니다.
둘째, 기능화되지 않는 의식의 잔여물(감각질)이 있을지라도 그것은 아무런 인과적 역할이 없다는 점에서 있으나 마나 한 잉여물입니다. 어쩌면 인간이 느끼는 의식은 환상에 불과할지도 모른다는 의견을 표명하는 학자들이 있습니다. 기능적 마음 이외에 인간의 감각질과 의식은 일종의 환각이라는 의식의 제거주의 입장입니다. 즉 의식은 실재하지 않으며 기계가 의식이 없듯이 인간도 의식이 없다는 것이지요. (80~81쪽)

부조리한 고통의 문제는 상담에서 직면하는 가장 심오한 문제 중 하나일 것입니다. 예컨대, 부조리한 고통을 상징하는 〈욥기〉의 주인공, ‘고통받는 의인’으로서 욥의 항변을 인공지능은 이해할 수 있을까요? 즉 감정의 기능적 정의를 토대로, 인공지능은 ‘저 사람은 신실하고 정직하게 살았 는데 불운과 고난을 겪는다는 것’을 이해하고 이를 공감할 수 있을까요? 부조리와 연루된 감정과 개념들을 기능화할 수 있다면 인공지능도 그런 고통을 호소하는 내담자를 어느 정도 공감하고 위로할 수 있을지 모르겠습니다. 인공지능 상담의 깊이가 어느 정도에 이를 수 있을지는 열어두는 것이 낫겠지요. 사실 그 가능성 못지않게 인공지능은 ‘삶의 부조리’처럼 답이 없는 물음을 가지고 씨름하는 내담자와 어떻게 대화하고 상담할 수 있을지가 더 흥미롭습니다. 사람은 답이 없는 문제에도 매달리지만 인공지능도 그럴 수 있을까요? 답이 없는 질문이나 출력 값이 없는 과제 수행이 어쩌면 인공지능에게는 부조리한 상황일지도 모르겠습니다. (91~92쪽)

인공지능을 설계할 때 데이터를 취사선택하고 평가하는 설계자의 사고방식과 가치관이 반영될 수도 있습니다. 입력 데이터만이 아니라 알고리즘을 설계하는 과정에서도 편향성이 개입될 수 있습니다. 특히 무엇을 학습 목표로 하고 어떤 가치를 우선순위에 둘 것인가에 따라서 과제를 해결하는 방식이나 절차가 달라질 수밖에 없습니다. (178쪽)

한국 사회에서 포털 뉴스의 공정성에 대한 논란이 있는데, 여기에도 인공지능이 관련되어 있습니다. 포털에서 어떤 뉴스를 전면에 배치할 것인지, 기사의 노출 시간과 방식을 어떻게 할 것인지 등을 관리하는 인공지능 알고리즘이 불공정하다는 의문이 제기되고 있는 것이죠. 인공지능이 알아서 자동적으로 결정하는 사안이니 우리는 책임이 없다는 기업의 답변은 사실상 알고리즘에는 불공정성의 문제가 없다는 주장에 불과합니다. 하지만 우리는 더 이상 기계 자체의 공정성을 믿기 어렵다는 것을 알고 있습니다. 포털 뉴스를 관리하는 인공지능이 공정한지는 그것이 의사결정을 하는 방식인 알고리즘이 공정한지를 밝히는 문제가 핵심이 되겠지요. 알고리즘을 짤 때 무엇을 목표로 할 것인지, 즉 최대한 많은 사람이 읽게 할 것인지, 정치적으로 편향되지 않게 배분할 것인지, 광고주가 선호하는 뉴스를 우선순위에 둘 것인지 등 목표 설정 자체가 공정성의 문제와 직결됩니다. (182쪽)

작가정보

저자(글) 김선희

상담하는 철학자. 이화여자대학교 철학과에 재직하고 있으며 철학상담 수련감독이다. 한국여성철학회 회장을 역임했다. 이화여자대학교를 졸업하고 서강대학교 대학원 철학과에서 박사학위를 취득했다.
주요 연구 분야는 심리철학, 기술철학, 여성철학, 철학상담이다. 자아정체성, 인격과 도덕적 주체, 젠더 정체성, 로봇의 인격과 윤리, AI 철학 등에 관해 연구했다. 《자아와 행위》《사이버시대의 인격과 몸》《과학기술과 인간 정체성》《철학상담》 등 다수의 저서가 있다.