강한 인공지능과 인간

인간 강화와 인간 잉여의 패러독스

김진석 지음

글항아리 2020년 07월 08일 출간 종이책 : 2019년 11월 08일 출간

작품소개

책소개

지능이 마음과 의식의 자리를 차지하고
시스템과 네트워크가 개인을 대행하는 시대
강화되는 동시에 ‘남아도는’ 인간 존재의 역설

과학기술을 통한 지능 시스템은 무서우리만치 빠른 속도로 발전하고 있다. 딥러닝을 통해 바둑 챔피언을 상대로 승리를 거둬 한동안 충격을 안겨줬던 알파고 같은 단적인 예에서뿐만 아니라, 일상적으로 인간은 빅데이터와 발달한 지능 시스템들 사이에 ‘끼어들어’ 그 시스템의 일부로 기능하고 있다. 그 시스템들을 활용하여 인간은 홀로 해낼 수 없는 많은 일을 손쉽게 수행하며 강화되고 있지만, 역설적이게도 발달한 기계 지능은 인간의 마음과 의식의 자리를 대체했고, 시스템과 네트워크의 복잡한 연결망은 인간 개인을 그 시스템의 일부로 만들고 있다. 인공지능은 분산된 지능 시스템의 가장 발전된 형태로, 인간 지능이 생물학적 한계를 넘어서게 만든다. 그러나 역설적이게도 인공지능과 같은 기계 지능을 통해 인간이 강화되는 현상은 인간이 스스로를 잉여라고 느끼는 현상, 그리고 동시에 실제로 기계에게 여러 역할의 자리를 내줌에 따라 실제로 잉여가 되는 현상과 맞물려 있다.

『강한 인공지능과 인간』은 철학, 과학기술학 등 다양한 학문적 관점을 조망하여 강한 인공지능의 시대 인간의 존재 조건과 그 상황을 심도 있게 다룬 학술서다. 인간과 기계의 관계는 단순히 대립하는 관계로 받아들여지거나 조장되는 경우가 많았다. 이 책은 그러한 생각들을 넘어서며, 인간의 능력을 뛰어넘는 특수한 능력을 가진 ‘강한 인공지능’이 도처에 있는 시대에, 근대적 인간주의가 상정하는 ‘인간성humanity’‘개인성’이 더 이상 유용하지 못한 가정에 지나지 않게 되었음을 논하고 잉여가 될 위험에 처한 인간의 처지를 철학적 관점으로 날카롭게 탐구한다. 아울러 ‘강한 인공지능’의 발전이 어떤 과정을 거쳐 이루어졌는지 역사적으로 개괄하고 그 특성이 인간 존재에 어떤 영향을 미치는지 분석한다. 인지 시스템이 발달함에 따라 인간은 이미 사이보그로 존재하기 시작했다는 관점에서 시작해, 이 책은 사이버 행위자들을 새로운 기준을 통해 구분하며, 인간을 강화하는 와중에 인간이 잉여가 되는 중요한 역설의 문제를 독자적이고 문제적인 방식으로 탐색한다.

인공지능은 처음에는 기본적으로 인간을 위한 기계와 도구로 여겨졌지만, 거기에 그치지 않고 인간의 지능과 능력을 강화시키는 시스템과 네트워크로 작동한다. 이 책이 여러 관점에서 시스템과 네트워크를 다루는 것도 바로 이 이유 때문이다. 인공지능은 분산된 지능 시스템의 가장 발달된 형태로서, 인간 지능이 전통적인 생물학적 한계를 넘어가도록 만들 것이다. 그리고 이것들과의 상관관계 속에서, 역설적이게도 인간이 잉여가 되는 복합적인 사건들이 일어날 것이다.─「서문」에서

이 책의 저자인 철학자 김진석은 30여 년간 ‘포월’ ‘소내’ ‘엉삐우심’등 독특한 모국어를 통해 기존의 철학적 개념을 현실에 맞게 재전유해왔으며, 가상 현실, 시스템과 네트워크 등 다양한 주제에 대해 독창적인 질문을 던져왔다. 이 책은, 사회에서 요구하는 지능의 성질이 통찰, 사유에 기반한 것이 아니라 데이터, 기계 학습에 의한 것으로 변해가고 있다고 역설하면서, 데이터의 홍수 속에서 인간 존재가 잉여가 되고 있는 복잡한 상황을 인문학, 철학의 관점으로 포착할 수 있을지 고민한다. 그러므로 이 책은 철학적 사유와 텍스트 분석을 바탕으로 논의를 전개할 뿐 아니라, 인공지능과 머신러닝이 발전해온 역사를 충실히 되짚는다. 또 니체의 ‘더 전체적인 인간’, 루만의 시스템이론, 라투르의 행위자-네트워크 이론, 해러웨이의 사이보그 선언, 캐서린 헤일스의 포스트휴먼 논의 등 다양한 분과의 이론을 분석에 끌어들이고 이를 당면한 논의에 알맞게 활용하고 변형시킨다. 자기 성찰이나 인간의 합리성과 같은 낡은 인간주의로 되돌아가는 미끄러운 함정에 빠지지 않고 인간 실존의 문제를 탐색하는 길을 이 책은 찾고자 한다.

목차

서문
1부 인공지능, 진부한 기계에서 진부하지 않은 기계로
1장 인공지능과 머신러닝의 발생 과정
2장 인공지능, 어떤 자율성을 확보했는가
3장 인공지능, 진부하지 않은 지능의 가능성
2부 인공지능의 구별과 사이버 행위자
4장 ‘약한’ 인공지능과 ‘강한’ 인공지능의 구별 문제
5장 ‘강한’ 인공지능에 대한 인간주의적 대응의 분석
?니체의 관점을 참조하여
6장 하이브리드 행위자, 사이버 행위자
3부 자유주의적 인간의 위기와 인간 강화 프로젝트
7장 의식과 지능에 대한 인간주의적 접근에서 벗어나기
8장 인공지능과 데이터, 자유주의를 뒤흔들다
9장 휴먼, 트랜스휴먼, 포스트휴먼
4부 인간 강화와 인간 잉여 사이의 패러독스
10장 빅데이터를 통한 개인화 과정 속에서 개인은 소멸한다
11장 인간 잉여의 불안과 인간 강화의 기대를 둘러싼 소용돌이
12장 나가며

참고 문헌
찾아보기

책 속으로

인간주의를 벗어난 인간-사이보그 행위자의 가능성을 모색하다

기본적으로 지능과 인지 시스템이 발달함과 동시에 인간은 이미 사이보그cyborg로 존재하기 시작했다는 관점에서 이 책은 출발한다. 오로지 그리고 전적으로 인간적인 지능에 호소하는 일은 이론적으로 모호하고 만족스럽지 않다. 인간의 지능과 인지 시스템이 작동하기 위해서는 수많은 사물과 기계 장치가 그것에 연결되어 있어야 한다. 인간의 인지 시스템 자체가 이미 사이버 시스템 속에서 작동하고 있다는 것이다.(6쪽)

이 책은 인공지능과 머신러닝, 빅데이터의 발전을 역사적, 이론적으로 분석하는 1부, 인공지능의 구별법이 인간 지능에 대한 의식을 어떻게 변화시켰는지 다루는 2부, 그로 인해 근대 이후의 자유주의적 인간이 어떤 위기를 겪게 되었는지 다루는 3부, 그와 연결되어 생겨난 인간 강화와 인간 잉여의 패러독스를 다루는 4부로 구성되어 있다.
1부 「인공지능, 진부한 기계에서 진부하지 않은 기계로」는 인공지능과 머신러닝, 그리고 빅데이터가 발전해온 역사를 살피고 이론적으로 분석한다. ‘진부한 기계’와 ‘진부하지 않은 기계’는 사이버네틱스라는 학문의 발전 과정에서 기계를 구별하는 기준으로 작동했다. 이 구별을 소개하며 진부한 지능이 주는 안정성, 진부하지 않은 지능이 가져다줄 수 있는 창의성과 새로움의 가능성을 논하며 어느 한쪽이 언제나 더 우세한 지능이 아니라는 점을 짚는다.
2부 「인공지능의 구별과 사이버 행위자」는 인간 지능과 인공지능의 잠재력을 분석하면서 ‘약한 인공지능’과 ‘강한 인공지능’의 구별법을 소개한다. ‘강함’과 ‘약함’이라는 구분은 인공지능 이전부터 인간 존재를 비롯한 여러 유기체, 인지 시스템 등을 구별하고 분류하는 데 사용되어왔다. 이 역사를 살펴본 후 인공지능에 적용되는 ‘강함’과 ‘약함’의 구별이 어떠한 형태를 띠는지 탐색한다. 이 구별을 통해 인공지능의 가능성을 살펴보고 이 구별이 불러일으킬 수 있는 인간과 인공지능 사이의 갈등을 분석한다. 그리고 이 갈등을 피할 수 있는 대안으로서 사이버 행위자, 하이브리드 행위자 개념을 소환한다.

빅데이터는 ‘개인화’를 극단까지 몰고 가지만,
개인은 데이터의 흐름 속에서 한없이 허약해진다

3부 「자유주의적 인간의 위기와 인간 강화 프로젝트」는 과학기술이 발전하는 상황 속에서 인간을 비롯한 지능, 인지 시스템들이 힘과 권력의 실행 장치들과 연합하게 되는 상황에 주목한다. 특히 근대적이고 전통적인 인간의 위상은 놀랄 만한 변화와 직면하고 있다. 이러한 상황에서 힘과 권력을 단순한 위계질서의 관점에서 이해하는 전통적 관점에서 벗어나는 것이 필요하다. 또 인간이 도덕성의 최고 주체로 설정되었던 것을 비판하며, 과학기술이 발전하는 상황 속에서 인간이 온전한 책임을 지는 ‘주체’가 아니라 대행자로 맞물린 고리들의 일부가 되어가는 현상을 분석한다. 휴먼, 트랜스휴먼, 포스트휴먼의 관계도 분석한다.
4부 「인간 강화와 인간 잉여 사이의 패러독스」는 강한 인공지능이 발전하는 환경 속에서 강화의 기회들을 대면하는 인간이 동시에 잉여가 될 위험을 만나게 되는 현상을 다룬다. 인간이 단순히 무기력한 잉여 상태에 돌입하는 것은 아니다. 단순히 인공지능 및 로봇에 의해 일자리를 잃게 된다는 의미도 아니다. 시스템과 네트워크를 통해 스스로 강화하는 시도를 하는 와중에, ‘개인’의 실존을 홀로 감당해야 하는 상황을 마주하게 된다는 것이다. 결론부에서는 머신러닝과 빅데이터의 발전이 ‘개인화’ 과정을 극단으로 밀고 가지만 네트워크 내부의 개인은 점점 힘이 없어지며 불안한 위치에 놓이는 역설적인 상황에 주목한다.

출판사 서평

인간주의를 벗어난 인간-사이보그 행위자의 가능성을 모색하다

기본적으로 지능과 인지 시스템이 발달함과 동시에 인간은 이미 사이보그cyborg로 존재하기 시작했다는 관점에서 이 책은 출발한다. 오로지 그리고 전적으로 인간적인 지능에 호소하는 일은 이론적으로 모호하고 만족스럽지 않다. 인간의 지능과 인지 시스템이 작동하기 위해서는 수많은 사물과 기계 장치가 그것에 연결되어 있어야 한다. 인간의 인지 시스템 자체가 이미 사이버 시스템 속에서 작동하고 있다는 것이다.(6쪽)

이 책은 인공지능과 머신러닝, 빅데이터의 발전을 역사적, 이론적으로 분석하는 1부, 인공지능의 구별법이 인간 지능에 대한 의식을 어떻게 변화시켰는지 다루는 2부, 그로 인해 근대 이후의 자유주의적 인간이 어떤 위기를 겪게 되었는지 다루는 3부, 그와 연결되어 생겨난 인간 강화와 인간 잉여의 패러독스를 다루는 4부로 구성되어 있다.
1부 「인공지능, 진부한 기계에서 진부하지 않은 기계로」는 인공지능과 머신러닝, 그리고 빅데이터가 발전해온 역사를 살피고 이론적으로 분석한다. ‘진부한 기계’와 ‘진부하지 않은 기계’는 사이버네틱스라는 학문의 발전 과정에서 기계를 구별하는 기준으로 작동했다. 이 구별을 소개하며 진부한 지능이 주는 안정성, 진부하지 않은 지능이 가져다줄 수 있는 창의성과 새로움의 가능성을 논하며 어느 한쪽이 언제나 더 우세한 지능이 아니라는 점을 짚는다.
2부 「인공지능의 구별과 사이버 행위자」는 인간 지능과 인공지능의 잠재력을 분석하면서 ‘약한 인공지능’과 ‘강한 인공지능’의 구별법을 소개한다. ‘강함’과 ‘약함’이라는 구분은 인공지능 이전부터 인간 존재를 비롯한 여러 유기체, 인지 시스템 등을 구별하고 분류하는 데 사용되어왔다. 이 역사를 살펴본 후 인공지능에 적용되는 ‘강함’과 ‘약함’의 구별이 어떠한 형태를 띠는지 탐색한다. 이 구별을 통해 인공지능의 가능성을 살펴보고 이 구별이 불러일으킬 수 있는 인간과 인공지능 사이의 갈등을 분석한다. 그리고 이 갈등을 피할 수 있는 대안으로서 사이버 행위자, 하이브리드 행위자 개념을 소환한다.

빅데이터는 ‘개인화’를 극단까지 몰고 가지만,
개인은 데이터의 흐름 속에서 한없이 허약해진다

3부 「자유주의적 인간의 위기와 인간 강화 프로젝트」는 과학기술이 발전하는 상황 속에서 인간을 비롯한 지능, 인지 시스템들이 힘과 권력의 실행 장치들과 연합하게 되는 상황에 주목한다. 특히 근대적이고 전통적인 인간의 위상은 놀랄 만한 변화와 직면하고 있다. 이러한 상황에서 힘과 권력을 단순한 위계질서의 관점에서 이해하는 전통적 관점에서 벗어나는 것이 필요하다. 또 인간이 도덕성의 최고 주체로 설정되었던 것을 비판하며, 과학기술이 발전하는 상황 속에서 인간이 온전한 책임을 지는 ‘주체’가 아니라 대행자로 맞물린 고리들의 일부가 되어가는 현상을 분석한다. 휴먼, 트랜스휴먼, 포스트휴먼의 관계도 분석한다.
4부 「인간 강화와 인간 잉여 사이의 패러독스」는 강한 인공지능이 발전하는 환경 속에서 강화의 기회들을 대면하는 인간이 동시에 잉여가 될 위험을 만나게 되는 현상을 다룬다. 인간이 단순히 무기력한 잉여 상태에 돌입하는 것은 아니다. 단순히 인공지능 및 로봇에 의해 일자리를 잃게 된다는 의미도 아니다. 시스템과 네트워크를 통해 스스로 강화하는 시도를 하는 와중에, ‘개인’의 실존을 홀로 감당해야 하는 상황을 마주하게 된다는 것이다. 결론부에서는 머신러닝과 빅데이터의 발전이 ‘개인화’ 과정을 극단으로 밀고 가지만 네트워크 내부의 개인은 점점 힘이 없어지며 불안한 위치에 놓이는 역설적인 상황에 주목한다.

작가정보

저자(글) 김진석

독일 하이델베르크대학교에서 철학 박사학위를 받았으며, 현재 인하대학교 철학과 교수로 재직 중이다. 계간 『사회비평』 편집주간, 『인물과 사상』 편집위원, 계간 『황해문화』 편집위원을 역임했다. 모국어로 철학하기 위한 실천으로 ‘포월’ ‘소내’ ‘기우뚱한 균형’ ‘엉삐우심’ 등의 독창적 용어로 사유하고 책을 내는 데 힘쓰고 있다. 저서로 『소외되기-소내되기-소내하기』 『우충좌돌』 『더러운 철학』 『니체는 왜 민주주의에 반대했는가』 『기우뚱한 균형』 『포월과 소내의 미학』 『폭력과 싸우고 근본주의와도 싸우기』 『이상 현실, 가상 현실, 환상 현실』 『니체에서 세르까지』 『초월에서 포월로』 『탈형이상학과 탈변증법』 『체계와 예술』(공저) 『분류와 합류』(공저) 등이 있다.