정치와 AI

김성천 지음

커뮤니케이션북스 2024년 07월 30일 출간 국내도서 : 2024년 07월 30일 출간

작품소개

책소개

AI가 독재와 민주주의에 미치는 영향을 탐구한다. 독재 국가에서는 AI가 감시와 통제 도구로 사용되며, 민주 국가에서는 여론 조작과 허위 정보 유포에 활용된다. 이 책은 AI의 기술적 중립성을 강조하며, 이를 어떻게 활용하는지에 따라 정치적 도구로 변할 수 있음을 설명한다. AI가 정치적 표현의 자유를 보호하고 허위 정보를 진압하는 데 기여할 가능성과 AI 시대 정치적 자유와 민주주의를 수호하기 위한 방안을 제시한다.

목차

AI는 과연 독재 친화적인가, 민주 친화적인가?

01 파놉티콘의 진화: 중국
02 파놉티콘의 진화: 러시아
03 파놉티콘의 진화: 북한
04 독재 정권의 해킹 공격
05 독재 정권의 스파이 칩 확산
06 세상 모두를 감시하는 NSA
07 여론 조작 AI
08 투표 조작 AI
09 가짜 뉴스 AI
10 민주화를 위한 AI

책 속으로

17억 개의 CCTV를 통해서 관찰되는 영상 정보를 사람들이 앉아서 일일이 다 검증하는 일은 가능해 보이지 않는다. 수많은 정보를 실시간으로 처리하기 위해서는 AI를 이용할 수밖에 없다. 중국이 AI 부문에서 미국의 선두 자리에 도전하고 있는 상황인데 안면 인식 기술 측면에서는 이미 앞선 것으로 보인다.
－01_“파놉티콘의 진화: 중국” 중에서

출판사 서평

독재와 민주 사이, AI 시대의 정치

AI는 현대 정치에 큰 변화를 일으키고 있다. AI는 독재와 민주주의 모두에 영향을 미치지만 그 양상은 상이하다. 독재 국가에서는 AI가 감시와 통제의 도구로 사용된다. 중국은 AI를 통해 전방위적 감시 체제를 구축, 주민의 행동과 통신을 모니터링하고 통제하는 데 활용하고 있다. 이러한 감시 사회는 오웰의 소설 『1984』에서 묘사된 디스토피아적 상황을 연상시킨다. 반면, 민주 국가에서는 AI가 여론 조작과 허위 정보 유포의 수단으로 악용될 수 있다. 미국에서는 AI로 제작된 딥페이크 영상이 선거 기간 중 유포되어 유권자들을 혼란에 빠뜨리고 있다. 이는 AI가 정보 왜곡의 도구로 사용될 수 있음을 보여준다. 우리나라에서도 QR코드를 이용한 선거 조작 의혹이 제기되었고, 이는 AI와 정보통신 기술의 오용 가능성을 경고한다.
이 책은 이러한 사례들을 통해 AI가 독재적 도구와 민주적 도구로 어떻게 사용되는지를 분석한다. AI의 기술적 특성은 정치적 중립적이지만, 이를 활용하는 주체에 따라 독재적 도구가 될 수도, 민주적 도구가 될 수도 있다. 독재 국가에서는 AI가 감시와 통제를 강화하는 반면, 민주 국가에서는 여론 형성과 선거 과정에서의 조작 위험이 커지고 있다. 또한 AI가 정치적 표현의 자유를 보호하는 데 어떻게 기여할 수 있는지도 다룬다. 파놉티콘 사회에서 시놉티콘 사회로의 전환, 즉 감시에 대한 역감시를 통해 독재자의 감시 체제를 역으로 감시하는 것이 가능하다. 어나니머스 그룹과 같은 해커들은 이미 이러한 역감시를 통해 자유를 수호하려 하고 있다. AI는 민주 사회에서 허위 정보를 찾아내고 제거하는 데 중요한 역할을 할 수 있다. 허위 정보의 유포로 인한 민주적 선거 과정의 왜곡을 방지하기 위해 AI는 효율적으로 허위 정보를 찾아내어 진압하는 데 사용될 수 있다. 이 책은 AI와 정치의 융합이 가져올 미래를 준비하는 데 필요한 통찰과 전략을 제공하며, AI 기술이 우리 사회에 미치는 영향을 깊이 있게 이해할 수 있도록 돕는다.

작가정보

저자(글) 김성천

중앙대학교 법학전문대학원에서 형법을 강의하고 있다. 원적은 황해도이고, 태어난 곳은 서울이다. 중앙대 법학과를 거쳐 대학원 석사과정을 마치고 독일로 건너가 빌레펠트(Bielefeld)대학에서 박사학위를 받고 돌아왔다. 교수 생활을 시작한 곳은 경주에 있는 진각종단 설립 위덕대학교다. 그곳에서 1년 반을 근무하다가 모교로 자리를 옮겼다.
박사학위 논문은 ‘정당방위와 법문화’에 대한 연구다. 귀국 후 형법의 시간적 효력과 관련해서 일제 강점기 친일파들의 범죄행위를 죄형법정주의의 틀 내에서 사후에 어떻게 처리할 것인가에 대한 연구를 하다가, 5·18 이후 그 사법 처리에 대한 논문을 몇 차례 작성했다. 그러던 중 ‘통신법’으로 연구 방향이 바뀌었다가, 이제는 AI와 법적 문제에 천착하고 있다.