인공지능 윤리 개론

고영상 , 김태성 , 송석진 , 신한수 , 심지원 지음

커뮤니케이션북스 2021년 08월 27일 출간 종이책 : 2021년 08월 30일 출간

작품소개

책소개

AI(인공지능) 시대가 열리고 있다. 인공지능이 인간의 행복과 편익을 증진시키려면 AI기술과 AI윤리가 조화롭게 발전해야 한다. 윤리를 도외시하고 기술만 앞세우면 위험해 진다. AI의 편향과 차별의 문제, AI의 오류로 사람이 위협받는 문제, AI를 악용한 범죄와 프라이버시권 침해 문제, 킬러로봇 개발 문제 등 인공지능이 일으킬 수 있는 문제를 미리 파악하고 대비해 안전장치를 마련해야 한다. 이 책은 이러한 목적으로 한국인공지능윤리협회 전문가 11인이 모여 만든 교양서다. 인공지능 윤리의 기본 개념과 핵심 내용, 빅데이터 윤리와 의료 인공지능 윤리, 인공지능 교육과 윤리, 스마트팩토리와 윤리, 스마트 건축의 윤리적 문제 등 AI 기술의 발달 과정에서 발생하는 AI 윤리 문제에 대해 알기 쉽게 정리했다.

목차

서문 기술만 앞세우면 위험해 진다

01 인공지능 윤리 개념과 5대 핵심　
AI의 편향성 문제 　
AI의 오류와 안전성 문제 　
AI의 악용 문제 　
개인정보 보호 문제 　
킬러 로봇 문제 　
장차 일어날 수 있는 인공지능 윤리 문제 　
인공지능 윤리 문제의 해결 방안 　
AI기술과 AI윤리는 동반자 관계

02 인공지능과 디지털 휴먼 　
‘디지털 인간’의 기술적 진보 　
디지털 인간이 사회적 리더가 된다면? 　
디지털 인간 윤리

03 인공지능 시대 일자리의 미래
상상 속의 미래 일자리 　
늘어나는 일자리 vs 줄어드는 일자리 　
일자리 감소 대책
공생공존의 길

04 빅데이터 윤리
기술 진화의 사이클 　
몽상가들의 인공지능 청사진 　
인공지능 기술의 양면성 　
데이터 3법의 핵심, 가명정보의 활용
개인정보 처리 기술 　
데이터 편향성과 유형 　
인공지능의 실수, 누가 책임질까? 　
인공지능의 실생활 접목과 그에 따른 이슈

05 의료 인공지능과 윤리
두부가 단백질로 불리는 사회 　
‘내 몸을 DIY 할 수 있다’는 것의 의미 　
인간 향상은 좋은 것인가
인공지능을 환대할 수만 없는 이유 　
의료 분야에서 인공지능 담론의 허세 　
‘치료’받는 ‘인간’과 ‘수리’받는 ‘포스트 휴먼’ 　
‘4차 산업혁명’에서 ‘4차 혁명’으로

06 교육과 인공지능 윤리
인공지능과 교육의 미래 　
인공지능 시대, 교육은 어떻게 이루어져야 할까? 　
인공지능 윤리 교육이 나아가야 할 길 　

07 스마트팩토리와 윤리
스마트팩토리의 개념과 최신 기술 　
스마트팩토리 환경에서 필요한 윤리 　
스마트팩토리 윤리 문제를 위한 협력

08 감정을 갖는 인공지능
음성인식 기술로 감정 파악 　
얼굴 표정 변화로 감정 분류 　
인공지능이 감정을 갖는 것은 필요할까?
로봇의 인간화와 인간의 로봇화

09 스마트건축의 윤리적 문제
도시건축이 지닌 캔버스환경 　
인간과 건축의 거리 　
스마트한 도시건축 　
인공지능과 건축의 만남 　
휴먼인공지능과 스마트 휴먼홈의 미래

10 AI 융합 뉴미디어와 윤리
초거대 AI의 등장 　
현존하는 초거대 AI 언어 모델 GPT?3 　
그림 못 그려도 웹툰 작가 될 수 있다
AI가 글 쓰고, 뉴스 만들고, 광고하는 시대 　
뉴미디어 영역에서의 AI의 역할과 윤리 　
인간을 닮지만 인간이 될 수 없는 AI

11 킬러로봇 문제와 해결 방안
킬러로봇은 제2의 핵문제 　
킬러로봇에 대한 규제 노력과 AI윤리 가이드라인 　
킬러로봇 문제의 해결 방안

〈부록〉 인공지능 윤리 헌장

출판사 서평

사이보그를 치료하는 사람은 의사인가 공학자인가?

빅데이터, 의료, 교육, 스마트팩토리, 스마트 건축 등 인공지능 윤리 전문가 11명이 만든 교양서
AI 기술 발달에 따른 새로운 AI 윤리 문제 연구 … ‘인공지능 윤리 헌장’ 눈길


AI(인공지능) 시대가 열리고 있다. 보이지 않는 바둑천재 알파고는 옛말이 되었다. 김주하, 이지애를 본 딴 AI 아나운서가 뉴스를 진행하고 AI 스피커는 ‘돌봄 서비스’까지 해준다. 미국 위스콘신 주에서는 세계 최초의 인공지능 판사 ‘컴퍼스’가 법원 판결에 의견을 제출했다. 호주의 세인트피터스 유치원에서는 인공지능 교사 ‘아이다’가 아이들에게 알파벳, 숫자 교육은 물론 노래, 그림, 요가, 체조 같은 예술 교육과 체육 교육까지 하고 있다. 인공지능 의사, 인공지능 반려동물이 우리의 건강과 정서를 챙기고 있으며 머지않아 인공지능 아이돌(Idol)이 세계의 문화를 바꿀지도 모른다.
인공지능 기술의 발전으로 미래에는 모든 가정에 1인 1로봇 시대가 열릴 것이다. 인간이나 생명체와 매우 유사한 외모를 갖고 행동을 하는 로봇들이 인간을 도와주고 위로해주며 인간과 함께 살게 될 것이다. 그러나 인공지능 기술이 인간에게 늘 긍정적인 영향을 주는 것은 아니다. AI의 편향과 차별의 문제, AI의 오류로 사람이 위협받는 문제, AI를 악용한 범죄 발생, AI의 학습과정에서 개인의 프라이버시권을 침해하는 문제, 킬러로봇 개발 문제 등 인공지능이 일으킬 수 있는 부정적 영향이 사회적으로 더 큰 문제를 일으킬 수 있다.

자율주행 자동차의 사고가 발생했을 때 책임 문제를 따지는 것은 어느새 인공지능 윤리의 낡은 주제가 되었다. 이제는 디지털 인간이 사회의 리더가 되어 인간의 삶을 좌우하는 문제부터 킬러 로봇으로부터 인간의 생명을 지키는 문제까지 보다 심각한 문제들에 대해 고민해야 하는 상황을 맞고 있다. 나아가 AI로부터 인간이 피해를 입는 문제만이 아니라 인간이 AI에게 가하는 폭력과 학대 행위까지 걱정해야 하는 상황이다.
인간이 휴머노이드 로봇에 가하는 폭력은 어떻게 보아야 할까? 휴머노이드 로봇을 단순한 기계나 전자제품처럼 간주해 별 문제가 아닌 것으로 보아야 할까? 안드로이드, 휴머노이드 로봇에게도 보호받을 권리를 인정해야 할까?
인공지능 기술이 적용된 로봇 팔이 신체 일부에 속한다고 할 수 있을까? 누군가가 로봇 팔에 해를 가한다면 상해죄일까, 절도죄일까? 반대로 로봇 팔이 오작동해 다른 사람을 다치게 했을 때, 그 책임은 누구에게 있을까?
인간의 몸이 사이보그가 된다면, 그 몸을 치료하는 사람은 의사인가 공학자인가? 과연 그 의료행위를 치료라고 할 수 있을까? 수리나 정비라고 규정해야 하는 것 아닌가? 사이보그의 몸을 의사가 치료할 수 있을까? 미래사회에서 의사의 자격은 의공학자에게까지 확대되어야 하지 않을까?

인공지능은 인간의 행복과 편익을 위한 수단일 뿐이며 유일한 목적은 인간이어야 한다. 하지만 산업 발전과 시장 경제의 논리 속에서 인공지능의 기술만이 우선시되며 강조되고 있는 상황이다. 우리는 인공지능 기술 개발에만 몰두할 것이 아니라, 더 늦기 전에 인공지능이 인간에게 미치는 영향들을 생각해보고, 인공지능을 어떻게 하면 윤리적으로 개발하고 사용할 수 있을 지에 대해 함께 고민해 보아야 한다. AI기술이 앞서 나가려 하면 인공지능의 위험성과 부작용 문제가 커지게 된다. 그렇다고 AI윤리가 앞서 나가려 하면 인공지능에 대한 두려움이 커져 좋은 AI기술들의 개발이 늦어지게 된다. 따라서 AI기술과 AI윤리는 반드시 함께 나아가야 하며 서로 조화롭게 발전해야 한다.

인공지능 윤리는 인공지능 영역에서 사람이 지켜야할 윤리를 의미한다. AI의 편향과 차별 문제 등 인공지능이 일으킬 수 있는 여러 문제점들을 미리 파악하고 대비하여, 인공지능에게 안전장치를 넣는 것이 바로 인공지능 윤리다. 따라서 인공지능 윤리의 영역에는, 인공지능이 일으킬 수 있는 부작용, 위험성 문제를 파악하고, 그에 따른 해결 방안을 모색하고, 차후에 이러한 문제들이 일어나지 않게 예방하는 활동까지가 모두 포함된다.

AI기업과 개발자뿐만 아니라 청소년과 대학생을 포함한 일반 시민들까지 모든 주체가 인공지능 기술과 반드시 함께 가야하는 인공지능 윤리의 중요성과 당위성을 알아야 한다. 또한 인공지능 기술의 안전장치인 인공지능 윤리가 무엇이고, 왜 필요하고, 어떤 문제들이 있으며, 해결하려면 어떤 노력들을 해야 하는지를 알아야 한다. 이러한 인식 속에서 우리는 인공지능 윤리 문제의 해결 방안을 찾게 되고 실천해 나갈 수 있게 된다.

이 책은 이러한 목적으로 한국인공지능윤리협회 전문가 11인이 모여 만든 교양서다. 인공지능 윤리의 기본 개념과 핵심 내용, 빅데이터 윤리와 의료 인공지능 윤리, 인공지능 교육과 윤리,

작가정보

저자(글) 고영상

저자 : 고영상
인터파크 검색개발팀 팀장, 한국인공지능윤리협회 이사다. 고려대학교 컴퓨터정보통신대학원에서 빅데이터융합 석사 학위를 취득하였다. 삼성SDS, 야후코리아, SK커뮤니케이션즈 등에서 검색, 미디어, 커뮤니티 서비스 등의 개발을 담당하였다. 정상JLS(정상어학원)에서 IT개발팀 수석팀장을 역임하면서 국내 및 해외 온라인 교육 플랫폼을 구축하였으며, 인터파크에서는 상품과 고객 프로파일 데이터 연동을 통해 개인화 티켓 검색 서비스를 개발하여 론칭하였다.

저자 : 김태성
MBC플러스 제작센터장, 한국인공지능윤리협회 부회장이다. 연세대학교 언론홍보대학원에서 석사학위를 취득하였다. 1996년부터 KMTV, NTV, CJ ENM을 거치면서 제작 · 편성PD, 채널전략 및 콘텐츠 기획자로 근무하였다. IDOL 콘서트 연출, 방송용 음악 및 예능 콘텐츠 기획 · 제작을 주로 담당했다. 지금은 뉴미디어와 새로운 IT 환경 하에서, 콘텐츠가 디지털 기술과 융합했을 때의 상호 시너지 효과, 디지털 콘텐츠의 글로벌 마케팅 전략, 메타버스와 같은 콘텐츠가 AI에 기반한 디지털 플랫폼에 적용되는 사례에 대해 관심이 많다.

저자 : 송석진
한국석유관리원에서 재직 중이며, 한국인공지능윤리협회 자문위원이다. 경희대학교에서 경영학을 전공하였다. 현재 ICT 융합 의료산업, 인공지능 기반의 스마트팩토리에 관심을 갖고 연구 중이며, “인공지능 기반의 스마트 의료기기 및 ICT 융합 의료산업 최근 연구 동향”(2018), “인공지능 기반의 스마트팩토리 구현과 전망”(2020) 등의 보고서를 발표했다.

저자 : 신한수
서울경제신문 전략기획실 부장이며, 한국인공지능윤리협회 이사다. 대학전문지 한국대학신문 기자로 미디어 업계에 발을 들여놓았고, 국내에 인터넷 신문이 처음 등장한 시기부터 새로운 플랫폼과 디바이스를 통한 뉴미디어 뉴스 및 서비스를 기획하고 운영하는 일을 맡아 왔다. 이어 전자신문인터넷, 이데일리에서 근무하면서 디지털 기반의 뉴미디어 기업이 케이블TV, 모바일 등 새로운 미디어 환경에서 영위하는 신규 사업 기획과 실행을 수행해 왔다. 최근에는 인공지능, 블록체인 등 새로운 기술과 미디어와의 만남에 많은 관심을 기울이고 있다.

저자 : 심지원
동국대학교 철학과 교수, 한국인공지능윤리협회 자문위원이다. 동국대학교 윤리문화학과에서 학사와 석사학위를 취득하고, 독일 뮌스터 대학 철학과에서 ‘인간향상(Human Enhancement): 건강한 인간 몸에 대한 개입의 정당화’를 주제로 박사 학위를 받았다. 인제대학교 인간환경미래연구원 전임연구원, 동아대학교 철학생명의료윤리학과 초빙교수, 중앙대학교 HK+인공지능인문학 사업단 연구교수 등을 거치는 동안 인간향상 문제를 중심으로 생명윤리, 의료윤리, 인공지능윤리에 대해 연구하였다. 기술이 여성, 장애인, 트랜스젠더에 미치는 영향에 대해 관심을 갖고 연구 중이다.

저자(글) 김태성

저자(글) 송석진

저자(글) 신한수

저자(글) 심지원