시스템 에러: 빅테크 시대의 윤리학

롭 라이히 , 메흐란 사하미 , 제러미 M. 와인스타인 지음 | 이영래 옮김

어크로스 2022년 04월 18일 출간 종이책 : 2022년 04월 11일 출간

작품소개

책소개

빅테크의 논리 뒤에 가려진 인간의 자리를 질문하다
스탠퍼드가 미래의 리더들을 위해 준비한 화제의 인문학 강의

“일단 결과를 만들어내고 용서는 나중에 구하라.” 실리콘밸리 기술 전문가들의 마인드를 대표하는 문장이다. 애플, 구글, 아마존 같은 빅테크들은 기술이 모든 문제를 해결하는 전능한 해법이라고 믿으며, ‘디지털 광고 클릭 수’, ‘유튜브 재생 시간’ 같은 측정할 수 있는 목표를 달성하기 위해 매진한다. 이러한 기술만능주의는 산업 현장뿐 아니라 캠퍼스에도 만연하다. 매년 실리콘밸리로 배출되는 많은 인재들의 관심은 기술을 통해 ‘해결하고 싶은 문제’가 아니라 오직 창업뿐이다. 각각 철학, 컴퓨터과학, 정치학을 가르치는 세 명의 스탠퍼드 교수는 이 같은 현실이 무언가 단단히 잘못되었다는 것을 느끼고, 기술 시대의 인문학적 논점을 다루는 새로운 강의를 만들었다. 〈뉴욕타임스〉, 〈뉴요커〉, 〈더네이션〉 등의 주요 매체가 이 강의를 초기부터 주목했고 기술의 미래를 기술자, 벤처투자가, 정치인들에게만 맡겨서는 안 된다는 문제의식이 이 책 《시스템 에러》의 출간으로 이어졌다. 세 저자는 윤리적, 기술적, 정책적 측면에서 디지털 시대의 당면한 쟁점들을 다각도로 논의한다. 그들의 이야기를 따라가다 보면 측정할 수 없는 중요한 가치들을 기술에 어떻게 반영해야 하는지, 기술의 편향을 해결하기 위한 엔지니어들의 현실적 전략은 무엇인지, 민주주의는 이러한 문제들에 어떠한 답을 줄 수 있는지, 기술혁명의 최전선에서 이뤄지고 있는 담론을 두루 살필 수 있다. 기술에 지배당하는 삶이 아니라, 우리가 기술을 통제하기 위해 알아야 할 시민 교양이다.

목차

출판사 서평

珦?가치중립적이라고 생각한다. 그러나 기술은 다양한 가치관을 반영하고 있다. 기술을 개발하고 그 규칙을 정하는 사람들이 여러 가치관 중에서 무엇을 우선할지 결정하게 된다. 기술자들이 우선하는 가치는 바로 ‘효율성’이다. ‘소이렌트’의 개발 스토리가 대표적인 예시다. 소이렌트는 식사 대용으로 먹을 수 있는 분말형 영양 보충제다. 소이렌트를 개발한 엔지니어인 롭 라인하트는 음식을 먹는 데 드는 시간과 비용이 모두 비효율적이라고 생각했다. 그러나 정작 우리가 음식을 통해서 얻는 미각의 즐거움과 친교의 기회는 고려하지 않았다. 이러한 기술자들의 사고방식을 ‘최적화 사고방식’이라고 하는데, 최적화 사고방식이 지배적인 위치를 점하고 보편적인 것이 되어갈 때 사회 곳곳에서 개인의 행복과 민주사회의 건전성을 저해하는 여러 문제가 발생한다.
빅테크 기업들은 ‘블리츠스케일링’, ‘OKR’ 등의 도구를 이용해 그들이 목표로 정한 지표를 달성하기 위해 최선을 다한다. 구글은 사람들이 더 오랫동안 유튜브를 시청하는 것을 목표로 삼고, 초과 달성을 이뤄냈다. 하지만 아이들이 추천 알고리즘을 따라 끝없이 이어지는 동영상을 보거나, 선정적인 내용이 가득한 영상을 추천받는 것이 과연 바람직한 일일까? 《시스템 에러》는 이 같은 질문들을 계속해 던지면서 지금 우리에게 무슨 일이 벌어지고 있는지, 불과 몇 년 전에는 생각해보지 않았던 이 질문들이 얼마나 시급한 문제인지 이야기한다.
책의 1부 〈기술자들의 시대〉에서는 기술자들의 최적화 사고방식과 자본가의 욕망 그리고 소수 기업의 독점이 만나 어떤 문제를 일으켰는지 그 곤경의 근원을 설명하고, 2부 〈빅테크, 혁신의 배신〉에서는 마냥 좋은 것이라고만 생각했던 첨단기술의 결과물인 인공지능, 소셜 미디어의 알고리즘, 자율주행차, 안면인식 같은 기술이 우리의 삶 속에 얼마나 깊숙이 침투해 있으며, 그 과정에서 우리가 어떤 인간적 가치들을 상실했는지 짚어본다. 마지막 3부 〈시스템 리부팅〉에서는 민주주의라는 구체적 솔루션을 가지고 빅테크의 지배에서 벗어나 기술의 통제권을 되찾기 위해 우리가 할 수 있는 일들을 제안한다.

‘효율’과 ‘최적화’의 추구는 어떻게 사회를 위협하고 있는가
디지털 대전환의 시대에 기술의 현재와 전망을 살피다

20세기가 경제와 금융의 시대였다면 21세기는 엔지니어링과 컴퓨터공학의 시대

작가정보

저자(글) 롭 라이히

저자 : 롭 라이히
Rob Reich
스탠퍼드대학교 정치학 교수이자 사회윤리센터를 책임지고 있는 철학자이다. 같은 대학 인간중심인공지능연구소의 부소장으로 윤리와 기술의 교차점에서 파생되는 문제를 탐구하는 선구적인 사상가이다. 뛰어난 강의로 스탠퍼드에서 가장 우수한 교직원에게 수여하는 월터 J. 고어즈 상을 비롯해 여러 상을 수상했다. 세계적인 기부 캠페인 기빙튜즈데이(#GivingTuesday) 창설을 도왔으며 이사회 의장으로 재임하고 있다.

저자 : 메흐란 사하미
Mehran Sahami
구글의 초기 멤버로 이메일 스팸 필터링 기술을 발명한 팀의 일원이었다. 머신러닝과 인공지능 분야에 정통한 그는 2007년 컴퓨터과학 교수로 스탠퍼드대학교에 돌아와 컴퓨터과학 학부 교육 과정의 재설계를 도왔다. 매년 약 1500명의 학생들이 수강하는 스탠퍼드대학교 컴퓨터 프로그래밍 입문 강좌를 맡고 있다. 여러 벤처캐피털 펀드의 유한파트너이며 하이테크 스타트업의 자문 역할도 하고 있다.

저자 : 제러미 M. 와인스타인
Jeremy M. Weinstein
2009년 오바마 대통령 행정부에 참여해 오픈거버먼트파트너십을 출범시켰다. 백악관의 핵심 참모로서 신기술이 정부와 시민들 사이의 관계를 어떻게 다시 구축할지 예견하는 역할을 했다. 2015년 스탠퍼드대학교 정치학 교수로 복귀해 현재는 스탠퍼드임팩트랩을 이끌고 있다.

역자 : 이영래
이화여자대학교 법학과를 졸업하였다. 현재 가족과 함께 캐나다에 살면서 번역에이전시 엔터스코리아에서 출판 기획 및 전문 번역가로 활동하고 있다. 옮긴 책으로는 《움직임의 뇌과학》, 《슈퍼팬》, 《제프 베조스, 발명과 방황》, 《파타고니아, 파도가 칠 때는 서핑을》, 《블리츠스케일링》, 《씽크 어게인》 등이 있다.

저자(글) 메흐란 사하미

저자(글) 제러미 M. 와인스타인

번역 이영래