AI는 양심이 없다

인간의 죽음, 존재, 신뢰를 흔드는 인공지능 바로 보기

김명주 지음

헤이북스 2022년 08월 17일 출간 종이책 : 2022년 05월 02일 출간

작품소개

책소개

인공지능에게 배신당하지 않고 살아가려면 어떻게 해야 할까?
“인공지능이 인류의 마지막 기술일 수 있다!”는 글로벌 리더들의 경고가 끊이지 않는다. 저자는 우리를 상대로 인공지능이 이미 흔들어대거나 조만간 흔들 이슈를 사례별로 정리하면서 인공지능에 의한 부작용과 역기능, 위험성을 모두 법으로 포괄해내기에는 인공지능의 발전 속도와 영역 확산으로 인해 불가능하다고 말한다. 미래에 인공지능에게 배신당하지 않고 함께 살아가려면 지금 방어적 준비로써 ‘인공지능 윤리’에 대한 사회적 담론을 제안한다. 네이버, 카카오, KT 등 국내 최고 IT 기업의 인공지능연구 책임자들이 ‘AI 윤리의 교과서, 필독서’라며 강력하게 이 책을 추천하고 있다.

목차

프롤로그

1장 ‘죽음’을 흔드는 AI
디지털 부활의 시작
다시 살아나다 | 사후 디지털 고용과 명예훼손 | 사자의 퍼블리시티권과 경제적 이득
새로운 애도 프로그램의 출현
다시 만나다 | 디지털 페르소나 | 디지털 부활을 구현할 특허
디지털 흔적과 디지털 유산
고인이 남긴 디지털 기록들 | 프로파일링과 잊힐 권리 | 사망자 계정과 사후 프라이버시 | 고인의 죽음을 흔드는 손
살아 있는 자의 디지털 영생
디지털 쌍둥이 | 모호해진 산 자와 죽은 자의 경계
살아 있는 자의 생물학적 영생
노화와 죽음을 치료하려는 시도 | 새로운 기술, 새로운 생각 | 포스트 휴머니즘과 인공지능 | 인간과 인공지능의 공존 관계

2장 ‘존재’를 흔드는 AI
존재하지 않는 존재, 가상 인간
버추얼 휴먼과 아바타 | 인플루언서에 대한 국내외 인식 | 가상 인플루언서의 등장
가상 인플루언서
휴먼 인플루언서를 능가하는 가상 인플루언서 | 가상 인플루언서의 장점과 문제점 | 가상 인플루언서의 신뢰성 문제 해결 방식
가상 아나운서
한·중·일의 가상 아나운서 | 가상 아나운서의 영향력과 전망
가상 가수
한국과 일본의 가상 가수 1세대 | 보컬로이드 가상 가수 | 인공지능 기술과 가상 가수
아바타와 메타버스
아바타의 등장 | 메타버스의 급습 | 메타버스 윤리: 디지털 윤리 vs 아날로그 윤리

3장 ‘신뢰’를 흔드는 AI
인공지능과 혁신
이루다와 알파고 | 의료계를 뒤흔든 인공지능 | 금융계의 판도를 바꾼 로보 어드바이저 | 리걸 테크의 꽃 인공지능 변호사 | 예술 영역에도 발을 디딘 인공지능
인공지능과 4차 산업혁명
4차 산업과 4차 산업혁명 | 4차 산업혁명의 핵심 신기술 | 불안과 걱정을 몰고 온 인공지능
인류의 마지막 기술일까?
초지능 슈퍼인텔리전스 | 인류에 대한 초지능의 위협 | 인공지능이라는 ‘존재적 위험’
책임지지 않는 인공지능
자율 주행차 사고와 책임 소재 | 탈인간 중심의 법체계는 가능할까?
사람을 차별하는 인공지능
흑인을 차별하는 인공지능 | 여성을 차별하는 인공지능 | 공립학교를 차별하는 인공지능 | 챗봇이 보여준 차별과 편견
착각하게 만드는 인공지능
인공지능의 의인화 | 불쾌한 골짜기 | 딥페이크와 딥누드 | 의료 영상의 완벽한 위조
안전하지 못한 인공지능
적대적 공격과 오픈 소스 | 취약한 인공지능 컨테이너 | 신뢰할 수 있는 인공지능을 향해

4장 흔들림 너머 AI 바로 보기
흔들리는 인간을 위한 윤리
인공지능에게 윤리가 필요한 이유 | ESG 경영과 인공지능 윤리 | 개발자 중심에서 이용자 중심으로 | ‘윤리’의 바다를 항해하는 ‘법’이라는 배
인터넷 윤리를 품은 인공지능 윤리
인터넷 윤리의 등장 | 인공지능 윤리의 등장 | 개인 정보와 프라이버시 정보 유출 | 일라이자 효과 vs 중독 현상 | 새로운 윤리의 기본 원칙
인공지능 윤리 원칙의 도출
5 Whys에 의한 특성 분석 | 차별적 특성과 보편적 특성 | 인공지능 윤리의 기본 원칙
공공성과 책무성 이해하기
공공성 관련 원칙들 | 책무성 관련 원칙들
통제성과 투명성 이해하기
통제성 관련 원칙들 | 투명성 관련 원칙들
인공지능 바로 보고 마주하기
국가 인공지능 윤리 기준 | 교육 분야에서 인공지능 윤리 | 대학에서 인공지능 윤리 | 공공 분야에서 인공지능 윤리 | 인공지능 생태계와 정부의 역할 | 전 국민을 위한 인공지능 윤리

에필로그
주석
찾아보기
참고 문헌

출판사 서평

인공지능에게 배신당하지 않고 함께 살아가려면 어떻게 해야 할까?
인공지능 윤리의 권위자 김명주 교수가 전하는 미래 AI 시대의 기회와 위기!

★ AI 윤리의 교과서이자 필독서. 미래 AI 시대를 준비하는 우리 사회가 함께 읽어야 할 책!
★ 네이버, 카카오, KT 등 국내 최고 IT 기업의 인공지능연구 책임자들의 강력 추천!

“인공지능이 인류의 마지막 기술일 수 있다!” 세계적인 석학 스티븐 호킹 박사는 아주 짧지만 명확한 경고의 메시지를 반복하여 전했다. MS의 빌 게이츠, 애플의 스티브 위즈니악, 테슬라의 일론 머스크 등 세계적인 빅테크 기업 수장들도 인공지능의 위험성에 대해 경고의 목소리를 똑같이 내고 있다. 닉 보스트롬, 스튜어드 러셀, 프랭크 윌첵, 맥스 태그마크 등 노벨상 수상자나 세계 유수의 대학교수들도 “인공지능이 인류 사상 최대의 성과인 동시에 최후의 성과이자 인류의 재앙이 될 수 있다!”고 주장했다.
정보화사회에서 미래의 지능정보사회로의 대전환을 이끄는 4차 산업혁명의 혁신 신기술 가운데 최고의 핵심 기술은 바로 인공지능이다. 70년이라는 짧지 않은 역사에도 불구하고 인공지능의 존재감과 위력을 전 세계인들이 대중적으로 인식하기 시작한 지는 겨우 10년 남짓 됐지만, 한편으로는 인공지능의 어두운 그늘에 대한 심각한 경고가 집중적으로 표출되고 있었다.
그때 우리는 2016년 구글의 인공지능 알파고가 바둑 천재 이세돌 9단을 4승 1패로 이긴 사건으로 인공지능이 우리의 생각보다 얼마나 더 똑똑할 수 있는지를 목격하며 큰 충격을 받았고 곧바로 인공지능의 엄청난 잠재력과 발전 가능성에 대한 기대감으로 투자 계획이 정부는 물론 기업과 대학 등 사회 전반에 걸쳐 이뤄졌다. 이후 5년이 지나서야 2021년 인공지능 챗봇 ‘이루다’ 사건으로 우리가 인공지능을 자칫 잘못 다룰 경우 얼마나 불안하고 불편하며 심지어 위험하기까지 한 상황이 연출될 수 있는지 깨닫게 됐다.
검찰과 경찰을 대상으로 컴퓨터범죄 수사 기법을 교육해오며 정보 보호와 디지털 윤리가 갈수록 중요함을 느낀 김명주 교수는 인터넷윤리실천운동을 전개하면서 인문학 및 사회과학 전문가들과 더불어 2년 넘게 연구하여 2018년 국내 최초로 인공지능 윤리 가이드라인 〈Seoul PACT〉를 만들었다. 인공지능에 의한 부작용과 역기능, 위험성을 모두 법으로 포괄해내기에는 시간적으로 따라잡기 힘들 만큼 인공지능의 발전 속도는 빠르다. 아울러 인공지능이 미치는 사회 영역 역시 전문가들도 가늠할 수 없을 정도로 광활해 모두를 한곳에 집약해 소수가 관리하는 것 자체가 불가능하다. 따라서 ‘처음 시작 단계부터’ 발전 방향을 올바르게 잡아야 하고 사회적 담론을 최대한 형성해야 하는데, 그 핵심이 ‘인공지능 윤리’이기 때문이다.
네이버, 카카오, KT 등 국내 최고 IT 기업의 인공지능연구 책임자들이 AI 관계자들의 교과서, AI 연구 개발자들의 필독서라며 강력하게 추천하는 이유가 이 책 《AI는 양심이 없다》가 담고 있는 ‘인공지능으로 인해 사회적 대전환이 시작되면 부작용과 역기능, 심지어 심각한 위험성이 드러난다고 해도 다시 원래로 되돌리는 것은 불가능하다’는 문제의식 때문이다. 그렇기 때문에 이 책은 AI 관계자나 전문가뿐만 아니라 우리 사회가 함께 읽어야 하며, ‘미래 AI 시대에 대한 방어적 준비’에 관해 이야기를 나누어야 한다.
저자는 인공지능이 열어줄 미래에 대한 올바른 방향 제시와 더불어 구체적인 준비도 따라야 함을 강조한다. 비가역적인 사회 대전환이 따라오기 때문에 발생 가능한 문제와 상황에 대해 소수의 전문가 중심에서 벗어나 사회 구성원 모두가 이해하며 공감할 수 있어야 한다는 논지다. 저자는 미래에 인공지능에게 배신당하지 않고 함께 살아가려면 어떻게 해야 할지, 지혜를 찾고자 했다. 이 지혜를 ‘윤리’라는 단어 안에 함축했다. 윤리는 가치 판단의 기준으로 사람에게 요구된다. 그리고 이 윤리는 사람만이 가지고 있는 ‘양심’으로 인하여 발현한다. 반면에 인공지능은 ‘양심’이 없다. 인공지능으로 인하여 등장하는 윤리적인 문제의 근원은 바로 이것이다. 책 제목도 이렇게 정해졌다.
‘인공지능은 이미 우리의 삶을 흔들고 있고, 앞으로도 흔들어댈 것이다’
미래 AI 시대의 사회 변화에 대한 이해력과 통찰력을 제공하는 책!
흔히 기술을 가치중립적이라고 한다. 이용하는 사람과 상황에 따라 기술은 유익할 수도 있지만 해로울 수도 있기 때문이다. 새로운 기술이 등장할 때마다 우리는 기술 자체에 흥분하고 기대감을 높이며 몰입하지만, 뒤따라 찾아온 부작용과 역기능은 우리를 배신하며 참 많이 힘들게 한다. ‘왜 시작 단계에서부터 우리는 기술의 숨겨진 그늘을 예상하지 못했을까?’ ‘단지 편리함과 이익에 눈이 멀어 어슴푸레 드러난 기술의 역습 기미를 우리는 왜 가

작가정보

저자(글) 김명주

저자 : 김명주
서울대학교 컴퓨터공학과를 졸업한 후 같은 대학원에서 석사와 박사 학위를 받았다. 서울대학교 컴퓨터신기술공동연구소 특별연구원을 거쳐, 서울여자대학교에 교수로 부임하여 올해로 27년째를 맞는다.
1995년부터 서울지방검찰청 특수부에서 컴퓨터범죄 사건에 대한 수사 자문을 맡기 시작했다. 법무연수원에서 검사와 수사관을 대상으로 컴퓨터범죄 수사 기법을 상당 기간 교육했다. 교육을 마칠 즈음 사이버 수사 전담 부서가 검찰과 경찰 안에 신설되었다.
이 과정에서 정보 보호와 디지털 윤리가 갈수록 중요함을 느껴 바로 실천에 옮겼다. 2001년 수도권 최초로 서울여자대학교에 정보보호학과를 신설하고, 2014년 국내 최초로 교육부 지정 정보보호영재교육원도 설립하였다. 여러 전문가들과 함께 인터넷윤리실천운동을 전개하면서 ㈔한국인터넷윤리학회 회장도 맡았다. 인문학 및 사회과학 전문가들과 더불어 2년 넘게 연구하여 2018년 국내 최초로 〈인공지능 윤리 가이드라인 Seoul PACT〉를 만들어 국가에 헌정했다. 이 공로로 정보문화의 달에 근정포장 훈장을 받았다.
2019년 바른AI연구센터를 설립한 후 윤리적 상상력을 기반으로 바람직한 미래 사회를 그려가고 있다. 최근에는 인공지능윤리정책포럼 위원, 디지털포용포럼 위원 활동을 통해 사회적 공론화 작업에도 힘쓰고 있다.