인공지능이 사회를 만나면

몸문화연구소 지음

필로소픽 2024년 07월 15일 출간 국내도서 : 2020년 09월 30일 출간

작품소개

책소개

인공지능 존재와 공존하는 사회에서 인류는 어떤 선택을 해야 하는가
21세기 인류 사회가 직면하고 있는 문제들과 씨름하면서 긍정적인 대안을 모색하는 몸문화연구소의 네 번째 포스트휴먼 총서. 2018년과 2019년 한국과학창의재단 우수과학도서 선정작 《지구에는 포스트휴먼이 산다》와 《포스트바디：레고인간이 온다》, 《인류세와 에코바디》에 이은 이번 책에서는 인공지능 사회가 직면하게 될 전반적인 문제를 포괄적으로 다룬다.
인공지능 혁명을 둘러싼 낙관론과 비관론이 무성하지만, 기술적 측면과 경제적 측면의 논의가 대부분이다. 저자들은 인공지능 시대의 기회와 도전, 그리고 위험 앞에서, 사회를 어떻게 미래형으로 재구성해야 하는지에 대해 고찰한다.
이 책은 인간과 인공지능 존재가 적대적 관계가 아님을 더 강조하며, 인간이 비인간 존재들을 아우르는 공존의 지혜를 추구할 때 지구 공동체가 더 살 만한 세상이 될 수 있음을, 그것은 인류가 어떤 선택을 하느냐에 달려 있음을 이야기한다.

목차

프롤로그

1장/ 인공지능에 관해 정말 알고 싶지만,
아무도 답을 모르는 질문들 _김운하

2장/ 로봇도 감정을 가지고 인간과 소통할 수 있을까? _임지연

3장/ 라면을 끓이는 당신은 이미 알고리즘 실행자! _이승미

4장/ 인공지능이 비즈니스를 하게 되는 날 _송은주

5장/ 탈노동 시대를 누리기 위해 필요한 것들 _서윤호

6장/ 빅브라더? 리틀브라더! _이지용

7장/ 자율주행차의 윤리적 딜레마 해소하기 _최일규

8장/ 인공지능이 지구를 구하는 법 _심귀연

9장/ 인공지능과 공진화하는 사이보그 인류 _주기화

10장/ 포스트휴머니즘, 공존의 철학 _김종갑

책 속으로

사실 제일 어려운 것은 ‘올바른 질문’을 던지는 것인지도 모릅니다. 즉 21세기 인공지능 사회에 대해 우리가 던질 수 있는 올바른 질문들을 제기하는 것 말입니다. 과장과 감상, 막연한 추측과 낙관, 근거 없는 불안과 공포가 아니라, 명료한 이성에 바탕을 둔 합리적인 추론과 근거 제시로 인공지능이 던지는 문제들을 감당해야 하지 않을까요. 10쪽

인공지능 로봇이 인간보다 몇백 배 바둑을 잘 두고, 계산을 잘 할 수는 있을지 몰라도 기쁨과 슬픔, 공감과 사랑은 가질 수 없다고 말이다. 그러나 최근 이에 대한 반론들이 제기되고 있다. 과거 동물들에게는 감정이 없다고 주장하던 시대도 있었지만, 지금은 동물의 감정에 대해 아무도 의문을 갖지 않듯이, 로봇의 감정에 관해서도 지금까지와는 다른 접근을 하고 있다. … 하지만 우리는 로봇과 어떤 관계를 맺어야 할지 머뭇거리고 있다. 로봇에 대한 양가적 마음 때문이다. 인공지능이 우리의 현실 깊이 침투해 있음에도 우리는 인공지능 로봇에 대해 공포와 환대를 동시에 느낀다. 52쪽

자잘한 일부터 일생일대의 의미 깊은 일까지 알고리즘이 추천하고 간섭하는, 알고리즘과 빅데이터의 시대는 이미 시작되었다. 앞으로는 더욱 다양한 면에서 우리 삶에 집요하게 파고들 것이다. 거주할 장소도, 종사할 직업도, 소비할 물건도, 심지어 함께 살 배우자까지도 기계지능이 ‘추천’하고 인간은 ‘선택’하는, 지극히 ‘효율적인’ 삶을 영위할 수도 있다. 올더스 헉슬리가 말한 ‘멋진 신세계’가 아닌가! 알고리즘이 나를 차별하기 전까지는 말이다. 우리는 알고리즘의 시대를 어떻게 살아야 할까? 95쪽

우리는 인공지능 사회가 촉발하게 될 감시 사회에 대한 위험성을 자각함과 동시에, 기술의 발달이 초래할 위험성을 막연하게 경계하는 데서 그치지 않고 우리 스스로가 거대한 데이터 세계를 구성하는 한 명 한 명의 구성원임을 자각할 필요가 있다. 이 시대의 우리는 인공지능 시대의 구성원이자, 정보의 제공자이자 사용자이고 소유자인 한 사람 한 사람이 리틀브라더들로서, 잠재되어 있는 빅브라더들이나 권력에 내재된 리틀브라더들의 횡포를 견제하는 존재들인 것이다. 166쪽

관계가 없으면 존재도 없는 것이다. 이 점에서 포스트휴머니즘은 비인간 생물이나 로봇, 인공지능을 인간에 종속된, 인간을 위해 봉사해야 하는 존재로 바라보지 않는다. … 물질을 수동적이고 비활성적인 조작의 대상으로 바라보지도 않는다. 물질이란 정신의 맥락이며 정신은 물질적 변화에 대한 관념에 지나지 않는다. 이 점에서 포스트휴머니즘은 모든 존재와의 생태학적 공존을 추구한다. 트랜스휴머니스트에게 지식이 자연 정복과 자기 강화의 힘이라면, 포스트휴머니스트에게 지식은 타자와 공존하는 지혜를 추구하는 것이다. 270쪽

출판사 서평

인공지능 시대 어떻게 맞이할 것인가?
인공지능에 대해서는 극단적으로 시각이 엇갈린다. 인간의 편의를 극대화할 유토피아와 인간이 인공지능에게 지배 혹은 전멸당한다는 디스토피아적 시각이다. 상상력에 바탕을 둔 양쪽의 주장은 타당한 면이 있지만 미래가 어떻게 될지 누구도 장담할 수 없다.
반면 인공지능은 속속 인간 사회에 파고들어 어떤 기술은 인간에 도움을 주는 반면 어떤 기술은 인간의 자유를 억압하는 데 활용되고 있기도 하다. 앞으로 수십 년간 인류는 '이런 세상은 처음'이라는 상황을 겪어야 한다. 그리고 그 '처음'은 인간 사회가 재구성되어야 할 만큼 중대한 문제가 될 것이다. 이 책은 현재의 인공지능 기술로부터 미래에 실현될 인공지능이 가져올 사회 문제를 예측하고, 이에 어떻게 접근해야 할지 제안한다.

기술로 널리 이롭게 하라
이제 곧 현실로 다가온 자율주행 자동차. 이 기술의 윤리적 딜레마인 트롤리 문제를 보자. 다수의 보행자를 살릴 것인지 혹은 운전자를 살릴 것인지는 철학적 논의가 오가는, 정답을 정하기 곤란한 문제다. 인공지능 기술을 도입하려 할 때마다 이런 철학적 문제가 나오고 어쩌면 기업에 CPO(Chief Philosophical Officer)라는 직책이 생길지도 모른다. 그러나 저자들은 이 딜레마는 잘못된 질문이며, 딜레마 해소를 위해 관점의 전환을 제안한다. 자율주행 자동차의 도입으로 감소할 인간 운전자의 부주의로 인한 피해와 자율주행 자동차의 편의성, 교통약자에게 주는 복지가 트롤리 딜레마보다 크다면 공공의 이익에 부합하지 않을까?
현재 인공지능을 이용해 기후변화를 모델링하고, 식물성 플랑크톤의 분포와 활동을 추적하거나 삼림과 각종 생물종들의 변화를 파악하는 등의 활약이 펼쳐지고 있다. 인공지능의 기술이 더 발전하면 인간이 해결하기 어려운 지구온난화와 환경보호에도 도움이 될 수 있다.
인공지능이란 도구는 누군가 막는다고 막아질 문제가 아니다. 도구를 어떻게 쓰느냐가 더 중요한 문제이다.

기술을 감시하라
많은 사람들은 인공지능 판사를 바란다. 기계가 감정에 치우치지 않고, 논리적으로 공정하게 판단할 것이라는 믿음 때문이다. 하지만 기대와 달리 기계는 상당히 편향적인 판단을 한다. 구글 이미지 검색은 CEO를 검색하면 백인 남자를 편중해서 보여주고, 흑인에 대해서는 고릴라를 노출시키기까지 한다. 인공지능을 움직이는 핵심기술은 기계학습 알고리즘과 빅데이터이다. 이 방식은 인간을 능가할 정도로 뛰어난 결과물을 산출하지만 기존 데이터를 기반으로 판단하기에 인간 사회가 나아가고자 하는 방향과 맞지 않는 경우가 많다.
또한 알고리즘은 때로는 확증편향을 강화시키는 방향으로 작동하기도 한다. 오늘날 시민들은 전통적인 언론보다도 각자의 레시피로 선별한 칵테일 뉴스를 선호한다. 사용자가 알고리즘을 자기 입맛에 맞게 ‘교육’시키는 셈이다. 알고리즘이 ‘알아서 거른’ 편향된 정보에 갇히는 필터버블이 만약 가짜 뉴스라면 그릇된 생각에서 헤어나오기 어렵게 된다. 만약 알고리즘을 지배하는 빅브라더나 알고리즘을 간파한 세력이 악용하면 손쉽게 여론조작을 할 수 있는 환경이 조성되는 것이다.
저자들은 국가 감시 체제와 법률 제정도 필요하지만, 보다 효과적인 방법으로 시민들의 자발적 활동으로 알고리즘을 살펴볼 것을 제안한다. 소비자가 유해성분으로 인식하면 기업이 스스로 제품 생산에서 그 성분을 제외시키듯, 알고리즘의 설계자인 기업도 사용자들의 눈치를 보기 때문이다. 알고리즘을 밝히지 않더라도 입력을 조절해가며 출력을 확인하는 역공학 방법으로 알고리즘 작동 패턴과 규칙은 알아낼 수 있다. 크리스토프 드뢰서는 이렇게 말했다. “사회에 알고리즘 전문가algorithmist가 많을수록 여론도 우리의 삶을 규정하는 알고리즘들의 배후를 더 많이 캐물을 것이다.”

노동의 신성함을 버려라
인공지능의 디스토피아를 상상하는 이유 중 하나는 자동화가 인간의 노동력을 완전히 대체할 수 있다는 믿음 때문이다. 인공지능이 산업혁명과 달리 인간의 일에 더 위협적인 것은 사실이다. 산업혁명이 물리력이 필요한 노동을 대거 대체했다면 인공지능 혁명은 사고력이 필요한 노동력을 대체할 것이다. 많은 인공지능 전문가들은 저비용의 노동자보다 고연봉의 의사, 회계사, 변호사 등의 자리가 더 위태롭다고 예상한다. 자본주의 사회는 고효율성을 추구하기 때문이다. 더군다나 기계는 창의력이 없다는 믿음은 인공지능이 그림을 그리고 작곡함으로써 깨졌다. 사고력과 창의력이 뛰어난 인간의 직업들도 대체될 수 있는 마당인데 나머지 인간들은 무엇을 해야 할지 걱정하는 것은 너무나도 당연하다.
저자들은 기본소득에 대해 더 전향적으로 바라볼 것을 주문하면서 “일하지 않는 자 먹지도 말라”라는 수천 년간 내려온 규범을 버릴 것은 주장한다. 과거 생산력이 노동력인 시절에는 이 규범이 통용되었지만, 기계의 높은 생산성 덕분에 모두가 하는 일 없이 빈둥대더라도 얼마든지 먹고살 수 있을 만큼 풍족한 삶을 누릴 수 있는 시대에는 낡았다는 것이다. 그리고 먹고살기 위해 일을 하는 시대가 종말을 고하고, 기본소득으로 인간으로서의 삶이 보장되어 자기가 하고 싶은 일을 하면 인간이 더 행복해질 수 있는 시대를 만들 수 있다고 주장한다.

기계와 공존할 준비를 하라
초인공지능이 먼 이야기일지 몰라도 인간과 감정을 교류하는 로봇은 이미 현실로 다가왔다. 2006년 심리학자 로버트 엡스타인은 온라인에서 젊은 여성을 가장한 챗봇에게 속아넘어간 경험을 《사이언티픽 아메리칸》에 “로봇과의 데이트”라는 제목으로 썼다. 봇이라는 것을 알고 있음에도 위안을 얻기 위해 심리상담봇을 애용하는 사람들도 있다. 반려동물처럼 자신과 감정을 교류한 로봇을 가족처럼 소중히 여기는 시대가 온다면 로봇을 어떻게 대해야 할까?
저자들은 인간 중심의 사고방식에서 벗어나 인공지능에 대한 권리를 존중해야 한다고 말한다. 사람이 지구 생태계의 동물들과 공존을 모색하듯, 생태계의 구성원인 기계와 공존을 모색해야 한다는 것이다. 이 주장은 동물권도 아직 보편적으로 인정이 안 되는 현 시점에서는 시기상조처럼 보이기도 한다. 그러나 이는 기계가 아니라 인간을 위해서 필요한 논의다. 상대의 욕구나 감정을 전혀 고려하거나 배려할 필요 없는 일방적 관계는 특히 어린이들의 경우 인간과의 상호 관계에서도 상대의 감정을 읽는 능력을 저하시키고 도덕성을 마비시키는 부정적 결과를 초래할 수가 있다. 실제로 아마존 알렉사를 장시간 상대한 아이들의 버릇이 나빠졌다는 연구 결과가 있고, 왜곡된 성 관념을 심어줄 수 있다는 섹스 로봇 반대론자들의 경고는 경청할 만하다.
따라서 기계가 아니라 스스로 인간성을 파괴하는 일이 없도록 지능형 인공물에 대한 윤리적 대우를 강제하는 법이 필요하다고 저자들은 말한다. 만약 향후 인공지능이 더 발달해서 의식을 가지게 된다면 이에 대한 답은 우리가 이미 알고 있다. 그래서 디스토피아를 걱정하는 것 아닐까?

작가정보

저자(글) 몸문화연구소

몸문화연구소
몸문화연구소는 2007년 설립된 이래 현대 철학과 사회의 화두인 몸을 매개로 인간과 사회의 관계를 연구해 왔다. 문학과 철학, 미학, 정신분석학, 역사학, 의학 등 다양한 전공의 연구자들이 참여하여 문화와 권력, 기술, 규범, 의료 관계 속에서 현상하는 인간과 몸의 문제를 이론화하고 실천적인 대안을 제시하는 데 주력하고 있다.

김종갑 건국대학교 영문학과 교수. 동 대학교 몸문화연구소 소장. 루이지애나주립대학교 영문학 박사. 문학과 예술·철학·과학을 아우르는 학제적 연구로서 몸에 관한 연구에 관심이 많다. 《타자로서의 몸, 몸의 공동체》《문학과 문화 읽기》《근대적 몸과 탈근대적 증상》 등을 썼고, 〈예술과 외설〉, 〈문학의 제도화로서의 이론〉 등 많은 논문이 있다. 공저로 《인류세와 에코바디》《포스트바디-레고인간이 온다》《지구에는 포스트휴먼이 산다》 등이 있다.

김운하 소설가. 서울대학교 언론정보학과 졸업. 건국대학교 몸문화연구소 연구원으로 활동 중이다. 저서로 《나는 나의 밤을 떠나지 않는다》《137개의 미로카드》 등의 소설과 《네 번째 책상 서랍 속의 타자기와 회전목마에 관하여》《새벽 2시, 페소아를 만나다》《선택, 선택의 재발견》《카프카의 서재》 등의 인문서가 있고, 공저로 《인류세와 에코바디》《포스트바디-레고인간이 온다》《지구에는 포스트휴먼이 산다》 등이 있다.

서윤호 건국대학교 학술연구교수. 동대학교 몸문화연구소 부소장. 함부르크대학교 법학 박사. 저서로 《사물의 본성과 법사유》, 공저로 《다문화사회와 이주법제》《포스트바디-레고인간이 온다》《지구에는 포스트휴먼이 산다》등이 있다.

송은주 이화인문과학원 학술연구교수, 번역가. 이화여자대학교 영문학과 박사.
저서로 《당신은 왜 인간입니까》, 공저로《포스트휴먼이 몰려온다》 등이 있다.

심귀연 경상대학교 인문학연구소 학술연구교수. 건국대학교 몸문화연구소 연구원. 경상대학교 철학 박사. 저서로 《몸과 살의 철학자 메를로-퐁티》《철학의 문》《신체와 자유》 등이 있고, 공저로《인류세와 에코바디》《포스트바디-레고인간이 온다》《지구에는 포스트휴먼이 산다》등이 있다.

이승미 한국표준과학연구원 책임연구원. 양자계산과학을 전공한 반도체물리학 박사. 저서로《인류세와 에코바디》(공저)가 있다.

이지용 문화평론가. 건국대학교 몸문화연구소 학술연구교수. 저서로 《한국 SF 장르의 형성》이 있고, 공저로 《비주류 선언》《문학과 미디어의 이해》《한국 창작 SF의 거의 모든 것》 등이 있다.

임지연 건국대학교 몸문화연구소 조교수. 문학연구와 함께 비인간 기술 및 자연에 관심을 가지고, 이들과 인간의 상호관계성에 주목하고 있다. 저서로는 평론집 《공동체 트러블》, 인문에세이 《사랑, 삶의 재발명》, 연구총서 《생태, 몸, 예술》(공저) 등이 있다.

주기화 건국대학교 몸문화연구소 학술연구교수. 건국대학교 영문학박사. 저서로 《영화로 보는 미국의 역사》《인류세와 에코바디》《포스트바디-레고인간이 온다》《지구에는 포스트휴먼이 산다》(이상 공저) 등이 있다.

최일규 독일 빌레펠트대학교에서 헤겔의 주체와 객체의 관계에 관한 연구로 철학박사학위를 받았다. 세종대학교 초빙교수로 재직 중이며 생명윤리, 심신문제, 기술철학, 포스트휴먼을 공부하고 있다. 저서로는 《생태, 몸, 예술》(공저)이 있고, 논문으로는 〈구성적 인공지능의 오토포이에시스와 인간과의 윤리적 공생 가능성〉등이 있다.