AI 시대의 정치이론

인공지능이 민주주의를 파괴할 것인가?

마티아스 리스 지음 | 박성진 옮김

그린비 2025년 03월 14일 출간 국내도서 : 2024년 02월 29일 출간

작품소개

책소개

사회 거의 모든 곳에서 인공지능과의 협업이 중요한 이슈로 떠오르고 있는 지금, 인공지능은 그 발전 속도가 너무 빠른 나머지 인간의 정신적 노동의 상당 부분을 이미 대체했다. 이로 인해 인간의 잉여화·사회의 양극화에 대한 우려는 더욱 커지고 있다. 게다가 인간의 가장 고차원적 행위인 정치에 인공지능 알고리즘이 개입하고 있다. 이러한 현실은 인간이 한 번도 경험해 본 적 없는 것이지만 우리는 과거의 관습에 따라 무책임하게 대응하고 있을 뿐이다.
이 책은 이러한 현실에 경각심을 불러일으키고 인공지능과 공존하는 디지털 사회에 대해 정치적으로 고찰한다. 특히 디지털 시대와 인권 문제, 정치적 위협에 대해 진지하게 고민한 책은 국내에서 가히 최초라 할 만하다. 새롭게 맞이한 디지털 시대라는 국면에서 정치적인 해답을 찾고자 하는 사람들, 인공지능과 함께 민주주의 시대를 살아가야 하는 지금의 우리들에게 이 책은 더 이상 선택지가 아닌 필독서다.

목차

한국어판 저자 서문

머리말
일러두기

1. 들어가며 — 인류 역사와 디지털 세계
2. 아미시에서 배우기 — 디지털 시대, 기술철학으로서의 정치철학
3. 인공지능과 민주주의의 과거, 현재 그리고 미래
4. 진리는 우리를 자유케 하지 않는다: 진리에 대한 권리는 존재하는가? — 라이프 2.0에서 공적 이성의 역할
5. 알게 되는 것과 알려지는 것 — 디지털 세계의 인식적 자격
6. 포르노와 불신을 넘어 — 딥페이크 기술의 인식론적 가능성과 위험성
7. 4세대 인권 — 라이프 2.0과 라이프 3.0의 인식적 권리
8. 감시 자본주의, 도구적 권력 그리고 사회물리학에 대하여 — 디지털 세계를 위한 계몽
9. 사회적 사실로서의 데이터 — 분배정의와 빅데이터의 만남
10. 신, 골렘 그리고 기계 숭배 — 디지털 시대에서 삶의 의미
11. 도덕적 지위와 정치적 소속감 — 라이프 3.0을 위한 정치이론

에필로그
옮긴이 후기

후주
참고문헌
찾아보기

책 속으로

공적 영역, 정치권력, 경제권력이라는 제목으로 논의한 바와 같이 민주주의 문화를 발전시켜야 하는 이유는 단순히 기술혁신 때문만은 아니다. 이것은 인류가 이미 경험한 디스토피아적 시나리오를 피할 수 있도록 기술을 통제하기 위한 전제 조건이다. 늘 그랬던 것처럼, 민주주의의 물질성은 시간이 지남에 따라 어떤 종류의 민주적 시민권이 가능한지 그리고 궁극적으로 미래 민주주의에서 어떤 방식으로 인간이 될 수 있는지를 결정한다. 따라서 민주적 문화와 기술을 통합하는 것은 그만큼 중요하다. (159쪽)

생체권력을 행사하려면 과학적 통찰력이 필요하다. 따라서 과학적 전문 지식의 위상이 강화되고, 왕권이 지배하던 시대에는 거의 의미가 없었던 권력과 지식 사이의 새로운 연결 고리가 만들어진다. […] 결국 우리는 이러한 신원 확인을 중심으로 자신의 인격을 파악하고 그렇게 세워진 권력 구조의 유순한 참여자가 된다. (206쪽)

인간 기억의 기본은 망각이며, 개인이 접하는 대부분의 정보는 (개인적 혹은 집단적으로) 장기 기억의 일부가 되지 못한다. 그럼에도 우리는 많은 것을 기억하고 있으며 의사소통의 창구는 기억을 생생하게 유지한다. 따라서 의사소통이 시작된 이래로 사람들이 자신에 대한 특정 내용을 해당 채널에서 삭제하는 데 관심을 가져 온 것은 당연한 일이다. (290쪽)

감시 자본주의는 또한 룩스가 말한 개인주의의 네 가지 핵심 요소를 위협한다. 인간 경험의 총체성을 상품화하고 (추출, 예측, 판매라는 은밀한 상업적 관행을 위한 무료 원료로) 인간을 단순한 부의 도구로 취급하는 것은 뒤르켐이 말한 ‘인간의 존엄성’과 인간의 신성함에 대한 존중을 약화시킨다. 더 많은 상업화를 촉진하기 위해 사람들의 사고를 유도하고 생각을 노골적으로 통제하려는 노력은 우리의 자율성을 침해한다. 온라인(그리고 점점 더 많은 오프라인)에서 인간의 경험을 수집하고, 그 경험을 수집한 개인의 행동에 대한 상세한 평가를 없애는 것은 우리의 프라이버시를 (없애지는 않더라도) 약화시킨다. (322쪽)

데이터는 인간이 생산한 것이기 때문에 데이터가 어떤 식으로든 인격체의 측면을 표현한다는 주장이다. 그리고 이에 따르면 적용 가능한 모든 규정은 인격권 보호와 관련이 있어야 한다. 석유로서의 데이터와 노동으로서의 데이터는 데이터가 실제로 소유될 수 있는 방식(천연자원이 소유될 수 있는 방식이나 노동자가 보수를 받는 방식과 유사)에 주목하는 반면, 이 비유는 가장 직관적으로 데이터를 소유물로 생각하지 말 것을 권장한다. 인간 활동에 의해 생성된 데이터는 인격이 확장된 것이므로 그에 상응하는 보호를 받아야 한다는 것이다. (359쪽)

기계의 도덕적 지위를 가정한다는 것은 기술이 우리 사회에 심각한 피해를 입히지 않는다는 매우 중요한 사실을 전제하는 것이다. 예를 들어 현재 기술은 인간의 합리적이며 독립적인 행위 가능성을 박탈하는 것도 아니며, 강자가 다른 사람들을 이용할 수 있도록 도구를 제공하는 것도 아니다. 기계의 도덕적 지위를 묻는다는 것은 우리가 앞에서 계속 다루었던 디스토피아적 시나리오를 (현재나 미래 사회에) 적용하지 않는 경우에만 의미가 있다. (440쪽)

인공지능은 우리의 역사에 대해 알고 있으며 인간이 알고 있는 것과 할 수 있는 것이 무엇인지 충분히 인식하고 있다는 점에서 먼 우주에서 온 외계인과는 다르다. 다시 말하자면 인공지능은 우리와 다르지만 완전한 외계인은 아니다. 알파고가 이세돌 9단을 이긴 장면을 다시 떠올려 보자. 인공지능은 인간이 창조한 게임을 플레이했고 인간이 역사에 새긴 풍부한 전략들을 학습했다. (461쪽)

이 책은 급변하는 시대에 요구되는 연구와 그에 따른 새로운 의제 선정에 도움을 주고자 하였다. 오랫동안 정치철학자들을 사로잡았던 논쟁들을 인공지능과 빅데이터의 시대(그리고 아마도 특이점의 시대)로 가져오고자 한 것이다. […] 내가 강조하고 싶은 것은 인공지능의 출현을 계기로 다양한 정치사상적 전통 사이의 관계를 재평가해야 한다는 것이다. 그리고 정치사상은 이제 기술철학을 수용해야 한다. 국제적인 지정학적 경쟁으로 인해 기술 발전은 당분간 어떤 식으로든 계속될 것이다. 따라서 이에 대한 정치사상적 문제는 우리가 반드시 직면해야 할 문제이며 이것은 다양한 (라이프 2.0과 라이프 3.0과 같은) 시대를 통해 나타날 것이다. (463~464쪽)

출판사 서평

생성형 AI와 디지털 네이티브의 시대,
정치철학과 기술철학은 필연적으로 교차한다

한 번도 경험한 적 없는 세계

인공지능이 민주주의를 위협하고 있다. 인공지능이 정치에 끼어들기 시작한 것이다. 인간이 아닌 존재가 인간의 가장 고차원적 행위인 정치에 개입하는 사건은 인류가 경험한 적 없는 일이다. 인공지능은 유권자들의 정치 성향을 분석해 맞춤형 광고를 보내거나, 투표를 포기하도록 정치혐오를 조장하는 등 선거에까지 영향을 미친다. 나아가 유튜브 알고리즘은 각각의 시민들이 관심을 가질 만한 동영상을 추천해 가며 사회 대립을 더욱 극단화한다. 누군가 경고한 것처럼, 우리 사회는 인공지능 알고리즘에 의해 내전에 가까운 분열 상태로 치닫는 중이다.

이제 인공지능은 너무나 정치적인 것이 되었다. 더 이상 단순한 도구나 컴퓨터 프로그램에 그치지 않는다. 그런데 우리는 인공지능의 정치성에 어떻게 대응해야 하는지 아무것도 모르고 있다. 이는 우리가 이전까지 한 번도 겪어본 적 없는, 그러나 분명한 민주주의에 대한 위협이다.


인공지능은 어떻게 정치적 존재가 되는가?
기술 발전이 민주주의에 끼치는 영향들을 톺아보는 책

이러한 상황 속에서 인공지능을 정치적으로 바라보는 한 권의 책이 출간됐다. 프린스턴 대학에서 박사 학위를 받고, 하버드 대학에서 강의하는 마티아스 리스 교수의 『AI 시대의 정치이론』이 바로 그것이다. 이 책은 인공지능과 같은 초지능적 존재와 빅데이터 시대를 정치적인 관점에서 고찰하며, 디지털 시대에 접어들면서 우리 사회가 마주하게 되는 다양한 현상들을 정치적 질문과 연결하여 우리 시대에 새로운 화두를 던진다. 초지능의 출현에 따른 다양한 시나리오를 검토하고 인류가 이에 대해 어떤 정치적 대응을 할 수 있는지 살펴보고 있다.

특히 권력과 인권이라는 관점에서 인공지능을 비판적으로 바라본다. 빅데이터 시대 데이터의 소유권 문제가 권력과 밀접한 연관을 맺기에 이것이 현대 정치의 핵심 문제라는 점을 지적하고 이에 대한 혜안을 제시한다. 데이터의 주인은 자신의 의지에 따라 정보를 생산하고 지식을 독점할 수 있기 때문이다. 이외에도 24시간 감시 체제가 되어 버린 사회에서 인권이란 무엇인지 묻고, 현대인을 인식하는 존재인 동시에 인식되는 존재로 규정하며 이들이 인간답게 살기 위해 가져야 할 권리를, 즉 3세대 인권 너머의 4세대 인권을 내다보고 그 안에 어떤 내용이 담겨야 할지 제안한다.

또한 민주주의와 기술과의 관계를 역사적으로 탐구하여 민주주의를 위해 우리가 인공지능을 어떻게 설계해야 하는지 점검하기도 하며, 기계에 삶의 통제권을 넘기는 기계 숭배 현상 등 기술로 인해 변화하는 우리 삶의 의미를 여러 각도에서 조명한다. 나아가 최근 논의되는 트랜스휴먼, 포스트휴먼의 관점들을 검토함으로써 기계나 인공지능이 인간과 같은 도덕적 지위나 정치적 소속감을 가질 수 있는지 살펴보기도 한다.


우리는 디스토피아로 갈 수밖에 없는가?

2023년 겨울, 챗-GPT를 비롯한 다양한 생성형 인공지능이 출현했다. 그리고 이것은 우리 사회를 총체적으로 변화시키는 중이다. 이제 학교와 회사를 비롯하여 예술, 학문의 현장 등 사회 거의 모든 곳에서 인공지능과의 협업이 중요한 이슈로 떠오르고 있다. 그 속도가 너무 빠른 나머지, 인간의 정신적 노동의 상당 부분을 인공지능이 이미 대체하기도 했다. 이로 인해 인간의 잉여화·사회의 양극화에 대한 우려는 더욱 커지고 있으며 일반 인공지능이 출현하게 되면 우리는 이러한 형태의 새로운 삶에 적응해야 할 것이다.

이러한 현실 속에서 정치는, 그리고 우리가 최선의 정치체제라고 믿고 있는 민주주의는 새로운 국면에 진입할 수밖에 없다. 앞서 말했듯 인공지능은 이미 정치에 개입하기 시작했다. 문제는 우리 사회가 디스토피아적 시나리오처럼 흘러가지 않을 것이라는 그 어떤 증거나 보장도 없다는 것이다. 즉, 우리가 통제권을 잃고 인공지능이 우리의 생존을 결정하는 순간이 찾아오지 않으리라는 증거가 없는 상황이다. 영화에나 나올 허무맹랑한 이야기로 치부할 것이 아니라 생존과 생명이 결부된 심각한 문제로 받아들이고 숙고해야 한다. 그러나 우리는 한 번도 경험해 보지 못한 일들에, 과거의 관습에 따라 무책임하게 대응하고 있을 뿐이다.

이 책은 이러한 현실에 경각심을 불러일으키고 인공지능과 공존하는 디지털 사회에 대해 정치적으로 고찰한다. 특히 디지털 시대와 인권 문제, 정치적 위협에 대해 진지하게 고민한 책은 국내에서 가히 최초라 할 만하다. 따라서 이 책은 새롭게 맞이한 디지털 시대라는 국면에서 정치적인 해답을 찾고자 하는 사람들, 인공지능과 함께 민주주의 시대를 살아가야 하는 지금의 우리들에게 더 이상 선택지가 아닌 필독서다.

작가정보

저자(글) 마티아스 리스

(Mathias Risse)

프린스턴대 철학과에서 박사 학위를 취득하고 하버드 케네디 스쿨 교수로서 인권, 글로벌 문제 및 철학 등을 강의하고 있으며 카 인권정책센터 소장이다. 주로 인권, 불평등, 조세, 무역, 이민, 기후 위기, 미래 세대에 대한 의무, 기술의 미래, 인공지능의 규범적 문제 등 세계 정의에 관한 문제를 주요한 연구 주제로 다루고 있다. 또한 윤리학, 의사 결정 이론, 19세기 독일철학, 특히 니체에 대해 연구해 왔다. 대표 저서로는 On Global Justice(2012), Global Political Philosophy(2012), On Justice: Philosophy, History, Foundations(2020) 등이 있다.

번역 박성진

인하대 철학과에서 ‘니체의 정치철학’ 연구로 석사 학위를 취득하고 성균관대 정치외교학과에서 ‘새로운 자유주의’(New Liberalism) 연구로 박사 학위를 받았다. 현재 광주교대 윤리교육과에 재직 중이다. 한국 사회에서 정치철학자로 산다는 것이 무엇인지 고민하지만 늘 해답을 찾지 못하고 있다. 미래 사회의 정치적 주체인 ‘포스트데모스’(Post-demos)와 ‘고통과 공포의 민주주의’라는 주제로 연구를 진행하고 있다. 기술혁명 시대의 정치와 정치적 주체 그리고 절망이 고여 있는 공간에서의 민주주의에 대해 고민 중이다. 지은 책으로 『현대철학 매뉴얼』(공저), 『근대 사회정치철학의 테제들』(공저)이 있으며, 대표 연구로는 「포스트휴먼과 포스트데모스」(2022), 「Applying Two-level Utilitarianism and the Principle of Fairness to Mandatory Vaccination during the COVID-19 Pandemic」(2022), 「Theodor W. Adorno, Artificial Intelligence, and Democracy in the Postdigital Era」(2023) 등이 있다.