AI는 차별을 인간에게서 배운다

인간과 기술의 공존을 위해 다시 세우는 정의

고학수 지음

21세기북스 2022년 02월 16일 출간 국내도서 : 2022년 01월 26일 출간

작품소개

책소개

서울대 가지 않아도 들을 수 있는 명강의, ‘서가명강’
인간과 기술의 공존을 위해 던지는 가장 뜨거운 쟁점들

대한민국 최고의 명품 강의를 책으로 만난다! 현직 서울대 교수진의 강의를 엄선한 ‘서가명강(서울대 가지 않아도 들을 수 있는 명강의)’ 시리즈의 스물두 번째 책이 출간됐다. 역사, 철학, 과학, 의학, 예술 등 각 분야 최고의 서울대 교수진들의 명강의를 책으로 옮긴 서가명강 시리즈는 독자들에게 지식의 확장과 배움의 기쁨을 선사하고 있다.
『AI는 차별을 인간에게서 배운다』는 한국인공지능법학회장과 서울대 인공지능정책 이니셔티브 공동디렉터를 맡고 있는 서울대학교 법학전문대학원 고학수 교수가 쓴 책으로, 새로운 기술이 우리 사회에 미치는 영향은 무엇인지, 제도와 정책은 어떻게 대응하고 변화해야 하는지에 대한 고민을 담고 있다. 이 책에서는 인공지능이 어디까지 왔는지 진단하고, 인공지능의 활용으로 파생한 문제와 논란을 짚어보며, 우리 사회가 어떤 준비를 해야 할지 알아본다.

목차

이 책을 읽기 전에 학문의 분류
주요 키워드
들어가는 글 인공지능 시대, 다시 정의란 무엇인가

1부 우리는 이미 인공지능 세계에 살고 있다
인공지능을 둘러싼 뜨거운 쟁점들
쉽게 보는 인공지능 작동원리
데이터 수집, 누구도 피할 수 없다

2부 인공지능, 어디까지 왔나
인공지능이 우리를 채용하게 된다면
인공지능 기술은 공정한가
데이터를 활용한 개인신용조회

3부 새로운 시대의 과제, 알고리즘 공정성과 차별금지
공정성은 곧 차별의 문제
인공지능 윤리의 화두, 투명성과 설명가능성
빅데이터 인공지능 시대의 프라이버시

4부 인공지능이 인간에게, 정의와 윤리를 묻다
인공지능 윤리 논의, 무엇을 담고 있나
인간이 학습하듯, 인공지능도 학습한다
인공지능 기술을 신뢰할 수 있기 위하여

나가는 글 인공지능 논의의 분기점에서
주석

책 속으로

인공지능을 바라보는 시각은 실로 매우 다양하다. 인공지능이 가져올 장밋빛 유토피아를 그리는 시각도 있는 한편, 반대로 커다란 우려를 보이는 시각도 있다. 그런데 어느 쪽이건 극단적인 시각은 적지 않은 경우에 기술의 현주소에 대한 이해부족을 반영하는 것일 가능성이 높다. 이 책
은 이런 간극을 채우기 위한 시도의 일환이다. 개인의 판단이건 국가정책적인 판단이건, 출발점은 인공지능 기술이 작동하는 메커니즘에 대한 이해 그리고 그러한 메커니즘이 일상과 사회에 어떤 형태로 영향을 미치게 되는지에 관해 객관적인 시각에서 바라보는 것이다.
【들어가는 글 | 인공지능 시대, 다시 정의란 무엇인가 : 13쪽】

우리가 인터넷 포털에서 검색을 하고, 유튜브에서 동영상을 보고, 넷플릭스를 통해 영화를 보는 모든 과정에 인공지능 알고리즘이 중요한 역할을 한다. 알고리즘의 부작용을 강조하는 시각에서는, 추천 알고리즘으로 인해 이용자들이 편향적 사고에 빠지게 되면서 이른바 필터 버블(filter bubble)이나 확증편향(confirmation bias)에 빠지게 된다는 주장이 반복적으로 나타난다. 필터 버블은, 예를 들어 이용자에게 검색의 결과를 보여주는 과정에서 이용자의 관심사, 성향, 철학, 이념 등을 고려하여 최적의 결과를 찾아서 보여주는 것이, 개별 이용자를 다른 이용자들로부터 소외시키는 결과를 가져올 수 있다는 주장이다. 그리고 확증편향은 이용자들이 자신의 생각에 부합하는 정보를 더 빈번하게 또는 선
택적으로 접하게 되면서 자신의 평소 선호나 성향을 더욱 강화하게 되는 경향에 관한 것이다.
【1부 | 우리는 이미 인공지능 세계에 살고 있다 : 31쪽】

안면인식 기술은 이미지 매칭을 통해 동일인임을 파악하는 용도 이외의 다른 용도로 쓰일 수도 있다. 안면인식 기술을 응용하여 얼굴 모습만으로도 그 사람이 가진 특징의 일부를 파악하는 것이 가능할 수도 있음을 보여주는 연구가 종종 발표되고 있다. 그런 연구 중 사회적 관심과 논란을 불러일으킨 것 하나로 개인의 얼굴 이미지로부터 특징을 인식하여 해당 개인에게 동성애 경향이 있는지 파악하는 것이 가능하다는 연구가 있다. 이 연구는 데이팅 사이트에 올린 프로필 사진을 분석하여 진행한 것인데, 프로필 사진을 분석하는 것만으로 일정 수준의 정확성을 갖고 동성애 경향을 파악할 수 있다는 주장을 하여 논란을 일으켰다.
만약 이런 유형의 기술이 고도화되고 상용화된다면 우리 사회에 어떤 일이 벌어질 수 있을까? 예를 들어, 동성애 경향의 지원자가 채용되는 것을 꺼리는 기업이 있다고 하자. 이런 기업에서는 채용 절차를 진행하는 과정에서 오히려 이 기술을 적극 활용하여 지원자 중에서 동성애 경향의 지원자가 있는지 확인하고자 하는 노력을 기울일 수 있고, 그 경우에 동성애 차별 문제가 사회적 문제로 대두될 가능
성이 있다. 또한 이 기술이 가진 오류의 가능성 때문에 추가적인 문제가 나타날 수 있다. 실제로 동성애자가 아닌 사람을 동성애자로 취급해서 또 다른 형태의 차별 논란이 나타날 수도 있는 것이다.
【2부 | 인공지능, 어디까지 왔나 : 112~113쪽】

인공지능을 활용한 의사결정에 차별이나 편향이 나타날 수 있다면, 그 원인이 무엇인지 생각해볼 필요가 있다. 다음 도식은 데이터 수집에서 시작하여 인공지능 모델이 만들어지기까지의 전체 흐름을 몇 개의 단계로 나누어 간략하게 요약한 것으로, 각각의 단계에서 모두 차별이나 편
향으로 인한 문제가 생겨날 가능성이 있음을 알려주는 것이다.
오늘날의 인공지능은 데이터의 존재가 핵심적인 관건이다. 적어도 개념적으로는 인공지능 모형을 개발하는 첫 단계는 실제 세상(real world)의 데이터에서 출발한다. 사회적 환경을 배경으로 하는 유형의 작업은 실제 세상의 데이터가 더욱 중요하다. 그런데 사회에는 편견과 차별, 불공정이 어느 정도는 있기 마련이다. 인공지능 개발의 기본 배경이 되는 인간 사회의 모습은 인공지능 기술 자체에 관한 문제라기보다는 우리 사회의 근본적인 문제라 하겠다.
【3부 | 새로운 시대의 과제, 알고리즘 공정성과 차별금지 : 153~154쪽】

우리가 인공지능 세상에 대해 가지는 가장 궁극적인 질문은 인공지능을 얼마나 믿을 수 있겠느냐 하는 것이다. 결국 신뢰 문제로 귀결되는 것이다. 앞서 인공지능의 투명성이나 설명가능성에 대해 논의를 했지만, 이런 개념이 중요한 화두로 제시되는 커다란 이유는 아직 우리가 인공지능에 대해 충분한 신뢰를 형성하지 못하고 있다는 것이 배경에 있다. 만일 인공지능이 사회적 규범을 적절히 반영하여
‘좋은’ 판단을 할 것이라는 신뢰가 충분히 형성된 상황이라면, 투명성이나 설명가능성에 대한 요구가 크게 줄어들 것이다.
【4부 | 인공지능이 인간에게, 정의와 윤리를 묻다 : 251~252쪽】

출판사 서평

이미 우리가 매일 접하는 AI 기술, 과연 믿을 수 있는가?
정의를 모르는 AI에게, 정의와 공정 그리고 신뢰를 묻다
인공지능은 이미 우리 일상에 깊숙이 스며들어 있다. 매일 접하는 유튜브의 추천 동영상이나 맞춤형 결과를 보여주는 인터넷 검색, 스마트폰 메시지를 보낼 때 뜨는 자동완성부터 금융, 의료 등 전방위에 걸친 분야 곳곳에 다방면으로 쓰이고 있다. 인공지능 기술은 분명 인류에게 무한한 가능성을 열어주었지만 이를 활용하는 과정에서 부작용이나 논란이 생기는 일도 적지 않다.
『AI는 차별을 인간에게서 배운다』의 저자 고학수 교수는 그 부작용과 논란을 살펴보고 관리해야 할 때가 바로 지금이라고 강조한다. 기술의 발전은 매우 빠르게 진행되고 있고, 그 기술이 우리 생활에 적용되는 속도도 빠르기 때문에 관련된 이슈들에 대한 논의가 무엇보다 시급하는 것이다. 우리가 앞으로 어떤 인공지능 시대에서 살아갈 것인지, 지금의 논의가 결정적인 역할을 하게 될 테다.
이 책은 우리가 미처 몰랐던 인공지능의 사회적 영향력과 그에 필연적으로 수반되는 부작용과 논란을 주요 사례와 함께 제시한다. 채용 과정에 도입된 인공지능이 지원자들을 차별하거나 유튜브의 알고리즘이 편향된 시각을 키우기도 한다. 그리고 이런 문제는 근본적으로 인간이 입력한 데이터에 의해 발생한다. 아이러니하게도 새로운 기술 앞에서 오히려 인간이 사회, 정의와 윤리에 대해 고민하고 치열하게 논의해야 할 필요성을 깨닫게 될 것이다.

인공지능의 문제는 결국 인간의 문제였다!
AI가 분석한 ‘우리 사회’라는 데이터값은?
인공지능 시대에 대해 장밋빛 미래를 그리거나 반대로 디스토피아를 우려하는 상반된 시각이 존재한다. 새로운 기술이 사회와 경제에 미치는 영향은 무엇인지, 제도는 이에 어떻게 대응하고 변해야 하는지 연구해온 고학수 교수는 이 책에서 인공지능이 우리 삶과 사회에 미치는 영향과 거기에서 대두된 이슈들을 짚어준다. 현행법에 대한 해석을 넘어 앞으로의 사회를 위한 법과 제도가 나아가야 할 방향까지 제시한다.
이 책은 안면인식과 채용, 신용평가에 이르기까지 인공지능이 활용되는 과정에서 인공지능이 잘못된 판단을 했던 사례들을 보여준다. 인공지능을 이용한 채용 알고리즘을 개발해오다 여성이라는 요인을 부정적으로 평가한 사실이 발견되어 결국 해당 개발팀을 해체하게 된 아마존, 소수자 혐오 발언으로 논란이 된 인공지능 챗봇 이루다, 백인 남성 얼굴을 더 정확하게 인식하는 미국의 안면인식 프로그램 등등. 왜 이런 일이 생길까? 이 책은 그 원인을 인공지능 작동 원리에서부터 차근차근 살펴나간다. 인공지능은 인간이 입력한 데이터를 학습해 작동한다. 따라서 인공지능이 잘못되거나 편견이 담긴 판단을 했다면, 이는 인간이 가진 오류와 편견을 학습한 결과인 것이다. 인공지능의 문제는 우리 인간과 사회의 편견과 차별, 불공정 등을 비추는 거울과 같다. 이 책의 제목이 『AI는 차별을 인간에게서 배운다』인 이유다.
이처럼 저자는 인공지능 문제의 대부분이 결국은 인간의 문제라는 데 주목한다. 이것을 뒤집어보면 인공지능을 사람의 손으로 잘 키워나갈 수 있다는 뜻이기에 각계각층의 열띤 토론과 정책 마련이 필요하다고 강조한다. 인공지능 윤리에 관한 원칙을 세워야 하고, 법적·제도적 장치도 반드시 수반되어야 할 것이다. 이 책의 독자들은 인공지능에 대해 더 잘 알게 되는 것은 물론 오늘날 더욱 주목받는 화두인 정의와 공정, 차별에 대해 다시 한번 치열하게 생각해보는 계기가 될 것이다. 그리하여 기술적으로도 사회적으로도, 그리고 인간적으로도 더 나은 삶을 향해 나아갈 수 있을 것이다.

이 책은 크게 네 부로 구성되어 있다. 1부에서는 인공지능이 어떻게 작동되며 그 기술이 어디까지 왔는지 살펴본다. 2부에서는 이처럼 발전한 인공지능을 채용·금융 등에서 활용한 사례들과 거기에서 떠오른 이슈들을 알아본다. 3부에서는 알고리즘에 의한 차별과 공정성에 관한 논란을 살펴보고 이를 방지하기 위한 사회적 논의의 필요성을 제시한다. 마지막으로 4부에서는 인공지능 윤리에 관해 알아보고 인간 중심적이며 신뢰할 수 있는 인공지능을 강조한다. 이 책을 읽으면 인공지능이 어떻게 작동하는가 하는 기술적인 지식은 물론이고, 이런 기술의 발전은 기술만이 홀로 앞서는 것이 아니라 경제·사회·법의 측면에서 발맞출 때 비로소 빛을 발한다는 것 역시 절감하게 된다. 나아가 급격하게 변화하는 시대에 적응하며 지혜롭게 살아갈 수 있는 통찰까지 얻을 수 있을 것이다.

내 삶에 교양과 품격을 더해줄 지식 아카이브, ‘서가명강’
서울대 학생들이 듣는 인기 강의를 일반인들도 듣고 배울 수 있다면?

★★★ 서울대생들이 듣는 강의를 들을 수 있어서 좋았다!
★★★ 직장 생활에 지친 나에게 주는 선물 같다!
★★★ 살아가는 데 진짜 필요한 공부였다!

서가명강(서울대 가지 않아도 들을 수 있는 명강의)은 대한민국 최고의 명문대학인 서울대학교 강의를 엮은 시리즈로, 현직 서울대 교수들의 유익하고 흥미로운 강의를 재구성하여 도서에 담았다. 2017년 여름부터 각 분야 최고의 서울대 교수진은 ‘서가명강’이라는 이름으로 매월 다른 주제의 강의를 펼쳤으며, 매회 약 100여 명의 청중들은 명강의의 향연에 감동하고 열광했다. 서가명강의 다채로운 인문학 콘텐츠는 도서뿐만 아니라 현장 강연과 팟캐스트를 통해서도 만나볼 수 있으며, 서울대생들이 직접 뽑은 인기 강의, 전공을 넘나드는 융합 강의, 트렌드를 접목한 실용 지식까지, 젊고 혁신적인 주제들을 다루고 있다.
출퇴근길을 이용해 교양 지식을 쌓고자 하는 직장인, 진로를 탐색하려는 청소년, 나아가 늘 가슴에 공부에 대한 열망을 품고 사는 대한민국의 모든 교양인들에게 우리나라 최고의 명강의를 손쉽게 보고 듣고 배울 수 있는 기회를 선사한다.

* 서가명강 강연 book21.com/lecture
* 서가명강 유튜브 youtube.com/서가명강
* 서가명강 팟캐스트 audioclip.naver.com/channels/345

인물정보

저자(글) 고학수

사회 변화의 한가운데서 미래를 위한 법을 연구하는 법학자
서울대학교 법학전문대학원 교수로 재직 중이다. 서울대학교 경제학과에서 학사와 석사 학위를 취득했고, 미국 컬럼비아 대학교 로스쿨(JD)과 경제학과(PhD)에서 공부하여 각각 학위를 받았다. 공부를 마친 후 미국과 국내의 로펌에서 근무했다. 연세대학교 법과대학에 재직하였고, 컬럼비아대학교, 싱가포르국립대학교, 함부르크대학교에서 강의했다.
법경제학, 개인정보보호, 빅데이터, 인공지능, IT 정책 등
의 영역에 관해 연구하고 강의한다. 새로운 기술이 사회와 경제에 미치는 영향은 무엇인지, 그래서 제도(institution)는 이에 어떻게 대응하고 변모해야 하는가에 관해 탐구한다. 현재 아시아법경제학회 회장, 한국인공지능법학회 회장, 서울대 인공지능정책 이니셔티브 공동디렉터, 서울대 AI연구원 부원장 등 다양한 역할을 맡고 있다.
다수의 논문 외에 저서(공저 포함)로는 『인공지능 원론:
설명가능성을 중심으로』, 『인공지능 윤리와 거버넌스』, 『데이터 오너십』, 『법경제학』, 『개인정보 비식별화 방법론』, 『데이터 이코노미』, 『개인정보보호의 법과 정책』, 『핀테크 시대』등이 있다.