뉴 로봇 원칙

AI 시대에 꼭 필요한

프랭크 파스콸레 지음 | 조상규 옮김

동아엠엔비 2024년 01월 30일 출간 종이책 : 2023년 11월 02일 출간

작품소개

책소개

미래 사회, AI 로봇과 공존하기 위한 새로운 로봇 원칙
우리는 왜 로봇과 AI에 관심을 가져야 하는가? 로봇과 AI로 인해 수많은 직업은 사라질 것인가? 그렇다면 로봇과 AI가 가져올 미래는 유토피아인가, 디스토피아인가? 한 미래학자는 인공지능과 로봇을 통한 자동화가 산업혁명 이후 가장 큰 혁명이 될 것이라고 내다봤다.
2016년 구글 알파고와 이세돌의 바둑 대결을 지켜보며 놀랐던 대한민국은 2022년 첫 공개된 챗GPT의 활용 능력에 다시 한번 놀라고 있다. 산업 분야 곳곳에서 챗GPT의 다양한 활용에 대한 담론이 진행되고 있고, 일반인의 인공지능 AI에 대한 관심이 그 어느 때보다 뜨겁다. 일각에서는 너무나 효율적이고 빠른 챗GPT의 일처리 속도에 자신의 일자리가 곧 사라질 것이라는 탄식도 새어 나온다. 인공지능이 인간에게 위협인지, 기회인지 미처 생각도 하기 전에 인공지능 시대는 성큼, 인류에게 바짝 다가와 있다. 인공지능 시대에 인간으로서의 권리를 지키며 살아남기 위한 통찰과 지혜가 그 어느 때보다도 절실해졌다.
이런 상황에서 우리는 어떻게 로봇 시대를 맞이해야 할지 통찰과 지혜를 전달해주는 책이 출간되었다. 미국 예일대 로스쿨 정보사회프로젝트 제휴 연구원인 저자는 로봇과 AI가 행복하게 공존하기 위한 대안을 제시하며 새로운 로봇의 4원칙을 소개한다. 새로운 로봇의 4원칙은 다음과 같다.
첫째, 로봇과 AI는 전문가를 대체하는 것이 아니라 보완하는 역할을 해야 한다. 둘째, 로봇과 인공지능은 인류를 위조해서는 안 된다. 셋째, 로봇과 AI는 제로섬 무기 경쟁을 강화해서는 안 된다. 넷째, 로봇과 AI는 제작자, 관리자, 소유자의 신원을 표시해야 한다.
로봇의 원칙은 유명한 공상과학소설 작가 아이작 아시모프(Isaac Asimov)가 1942년에 자신의 소설에서 로봇의 작동 원리에 대해 제시한 바 있다. 그러나 그의 원칙은 새롭게 개발되는 로봇과 AI를 감안할 때, 여전히 모호한 부분이 많아서 이를 보완해야 할 필요성이 대두되었다. 그렇기에 저자는 좀 더 광범위하고 명확하게 로봇 원칙을 새롭게 재정의했다. 이러한 로봇 원칙과 함께 로봇 시대에 산업 전반과 정치 경제에서 로봇을 어떤 원칙을 갖고 발전시켜나가야 할지 로드맵을 제시하고 있다.

목차

추천사 5

1장. 서론 7
2장. 인간의 치료 43
3장. 기계학습자를 넘어서 73
4장. 자동화된 미디어의 외계 지능 105
5장. 인간을 판단하는 기계 139
6장. 무인 병력 169
7장. 자동화의 정치 경제에 대한 생각 197
8장. 컴퓨터의 능력과 인간의 지혜 231

책 속으로

유비쿼터스 경영 컨설턴트들은 직업의 미래에 대해 “당신이 하는 일을 기계가 기록하고 모방할 수 있다면 당신은 기계로 대체될 것이다”라고 말한다. 대량 실업에 대한 이야기가 정책 입안자들의 주목을 받고 있다. 더욱 강력해진 소프트웨어와 로봇, 예측 능력이 뛰어난 분석 기법의 발전으로 인간 노동자가 불필요한 세상이 올 수도 있다. 여러 개의 카메라와 센서를 연결해 데이터 더블을 만들 수 있다. ‘데이터 더블’이란 우리의 모든 일을 대신할 수 있는 홀로그램이나 로봇을 말한다. 이런 상상은 곧 냉혹한 현실이 될 것이다.
-p9 1장 서론

구글은 매장에 전화를 걸어 인공지능 음성으로 사람 대신 예약을 해주는 비서 서비스를 시연하며 업계와 언론을 충격에 빠트렸다. 구글 같은 막강한 기업의 모습을 숨기고 대화 도중 사람이 망설이는 듯한 모습을 흉내 내며, 상대방에게 질문하고 마치 사전에 녹음된 음성이 아닌 것처럼 위장한다. 전화를 받는 입장에서는 자동화된 콜센터에서 걸려오는 전화가 넘쳐나는 등 좋지 않은 방향으로 악용될 수 있다.
인간의 모습을 위조하는 것은 단지 기만적인 행위일 뿐만 아니라, 인간의 모습을 위조하는 이들에게 지지와 관심이라는 혜택까지 주는, 진실하지 못하고 부당한 일이다. 로봇 교사와 군인, 고객서비스 담당자 등 여러 사례에서 보겠지만, 인간 모방이 실패했을 때 생기는 불편함은 단순히 기술이 불완전했기 때문만은 아니다. 오히려 기술이 나아갈 방향에 대해 현명한 주의가 필요하다는 생각을 하게 한다. -p17 1장 서론
어떤 학생은 안면 인식 시스템이 자신의 얼굴을 인식하지 못한다고 불평했다. 헤어스타일이나 메이크업을 바꾸면 알아보지 못한 것이다. 학교는 회사에 여러 개의 얼굴 사진을 보냈다. 그러나 어떤 학생은 카메라를 거부하고, 심지어 한 학생은 “카메라를 박살내고 싶다”고 말하기도 했다. 대규모 감시에 익숙한 나라에서도 초 단위로 모든 일상을 기록하는 것은 분노를 불러일으키기에 충분했다. 게이츠 재단이 미국에서 생체 인식 장치(Cognate Biometrics, 학생의 강의 참여도를 지속적으로 측정하기 위한 피부 반응 전기 팔찌)에 자금을 지원했다가 대중의 반발로 중단했다.
-p75 3장 기계학습자를 넘어서

빅테크 기업은 더 이상 자신을 다른 사람들의 콘텐츠를 전달하는 단순한 플랫폼이라고만 말할 수 없다. 특정 대상을 선별해 관련 콘텐츠를 제공하는 것을 전제로 하는 마이크로 타게팅 광고를 통해 이익을 얻는다면 더욱 그렇다. 그들은 편집에 대한 책임이 있고, 이는 곧 알고리즘이 해결하지 못하는 문제에 대응하기 위해 훨씬 더 많은 저널리스트와 팩트체커를 영입해야 한다는 것을 의미한다. 빅테크 기업의 변호인들은 이런 책임을 소수의 기업이 감당하는 것은 불가능하거나 현명하지 않다고 주장한다. 그들은 개인이나 사설 팀이 관리하기에는 콘텐츠 양이 너무 많다고 주장한다. 플랫폼에서 문제를 해결하기 위해서는 인간의 전문지식보다는 소프트웨어 알고리즘이 이상적인 방법이라고 주장한다. 그러나 이런 주장은 페이스북 같은 기업이 알고리즘 외에도 수작업으로 뉴스 피드를 끊임없이 조정하고 있다는 사실을 무시한 것이다.
-p112~113 4장 자동화된 미디어의 외계 지능

MIT 연구원 조이 부올람위니(Joy Buolamwini)는 상용 안면 인식 소프트웨어가 소수자, 특히 소수계 여성을 식별하지 못하는 실패 사례를 기록했다. 그녀는 이 머신 비전을 ‘코드로 만든 시선’이라고 부른다. 이는 기술을 만들 수 있는 힘을 가진 사람의 우선순위와 선호도, 때로는 편견을 반영한다. 이런 사례는 최고의 리소스를 보유한 기업에서도 어렵지 않게 찾아볼 수 있다. 미국 시민자유연맹이 아마존의 영상 인식 소프트웨어를 사용해 미국 의회 의원들 중 데이터베이스 에 있는 범죄자가 있는지 확인해 달라고 요청했을 때, 잘못된 결과가 많이 나왔다. 너무나 많은 의원들을 범죄자로 식별했던 것이다.
-p147 5장 인간을 판단하는 기계

동일한 원칙이 ‘섬뜩한 포용’에도 적용된다. 끊임없는 휴대 전화의 추적과 정보 보관 및 데이터 재판매는 섬뜩한 포용의 대표적인 예이다. 은행원이 직원에게 주말도 없이 24시간 내내 그녀를 따라다녀도 괜찮냐고 묻는다면 위협을 느끼는 게 당연하다. 심지어 그를 상대로 스토커 접근 금지 명령을 내릴 수도 있다. 휴대전화 추적기와 함께 제공되는 신용 계약은 크게 위협적이지 않을 수 있지만 데이터를 계속 사용하는 것은 문제를 불러올지 모른다. 소름 끼치는 것은 현재 상태를 바탕으로 미래의 위협을 예측하는 것이다. 섬뜩한 포용은 알려지지 않은 의사결정 기계들이 우리의 자동차와 침실, 욕실에 몰래 들어오게 한다. -p158 5장 인간을 판단하는 기계


대조적으로 보멀과 보웬이 정체된 분야라고 부르는 예술, 건강, 교육 분야에서는 가격이 그대로 유지되거나 상승한다. 1790년에 현악 4중주를 연주하는 데 4명이 필요했는데 오늘날에도 같은 인원이 필요하다. 2020년의 강의는 1820년이나 1620년의 강의와 동일한 기본 패턴을 공유할 수 있다. 비용의 질병학자에게는 교수의 강의의 연속성이나 의사의 신체검사가 의심스럽다. 왜 학교는 농장처럼 혁신적이지 않고, 학생들은 새로운 유전자 변형 작물처럼 강해지지 않는가? 의료 서비스의 생산 라인과 교체 가능한 부품, 표준화된 해결책은 어디에 있는가?
-p217 7장 자동화의 정치 경제에 대한 생각

더 빨리 일해야 한다는 비즈니스 격언은 근로자의 자율성을 억압하기 위한 수사 도구로 너무 빨리 수단화되었다. 미국의 고용주들은 다루기 힘든 근로자에게 더 많은 유연성을 요구하기 위해 내국인 근로자의 일자리를 빼앗을 준비가 된 해외 근로자들을 한때 들먹였지만 이제는 훨씬 더 빠른 기계를 찾는다. 더 많은 휴식 시간을 요구하는가? 로봇은 연중무휴로 일할 수 있다. 더 높은 임금을 원하는가? 당신을 소프트웨어로 대체할 동기를 만들 뿐이다. 전기료나 교체 부품은 식품이나 의약품보다 훨씬 저렴하다.
-p263 8장 컴퓨터의 능력과 인간의 지혜

출판사 서평

인간의 욕망이 만들어낸 판도라의 상자, 로봇과 AI
인간이 중심인 세상을 만들기 위한 탁월한 통찰!
‘나는 생각한다, 그러므로 나는 존재한다.’는 말은 프랑스 철학자 데카르트에 의한 인간의 존재에 대한 정의이다. 생각하고 창조하는 인간의 본능에 ‘더 높이, 더 멀리, 더 빠르게’와 같이 한계에 도전하고 싶은 인간의 욕망이 기술을 만나 로봇과 인공지능 AI가 탄생했다.
생각해보면 인간은 얼마나 비효율적인가. 인간은 하루의 3분의 1이라는 시간을 수면에 할애해야 한다. 만물의 영장이라고 하지만 다른 동물과 달리 20년 정도의 시간이 흘러야 성숙한 개체가 된다. 잠자는 시간에도 일을 할 수 있다면 얼마나 빠르게 목표를 달성할 수 있을까? 교실에서 수많은 학생들을 일일이 감시할 수 없는데 그들의 행동을 통제할 수 없을까? 한 가지 지식을 알면 수십, 수천 가지를 응용하는 똑똑한 존재가 있다면 방대하고 복잡한 인류의 지식을 활용하기가 얼마나 편할까? 좀 더 효율적이고, 좀 더 생산성 있고, 인간이 가지고 있는 물리적 한계를 극복할 수 있는 것에 갈망은 인간 누구나 갖고 있는 보편적 특성이다. 이런 특성으로 인류의 과학기술은 발전해왔고, 그 기술은 로봇과 AI로 인간의 역사에 새로운 흐름을 만들고 있다. 그것이 바로 ‘4차혁명’이다.
저자는 로봇과 AI로 인간이 대체되고 종속되는 암울한 미래를 막기 위해 모두가 함께 노력해야 한다고 말한다. 그러기 위해서는 정치 경제 지도자, 정책 입안자, 기술업계 종사자, 민주주의 사회의 일원 누구나 로봇에 의해 대체되는 세상이 어떻게 위험할 수 있는지 다양한 측면에서 설명한다. 자유민주주의 진영의 종주국인 미국과 공산주의의 전형인 중국, 유럽에서의 로봇 기술 관련 제도와 법률을 진단하고, 사회와 정치 경제적 여러 측면에서 로봇 기술에 대해 어떤 원칙을 강화해야 하는지 밝힌다.
이미 열리기 시작한 로봇과 AI기술의 판도라의 상자. 독자들에게 로봇과 AI 시대를 맞이하는 현명한 지혜와 통찰을 전달해줄 것이다.

작가정보

저자(글) 프랭크 파스콸레

▶ (Frank Pasquale)
브루클린 로스쿨 법학 교수로 예일대학 로스쿨 정보사회프로젝트의 제휴 연구원이자 빅 데이터 윤리사회협의회 회원이다. 《뉴욕타임스》, 《아틀란틱》, 《LA타임스》, 《가디언》 등 다양한 매체에 글을 기고하고 있으며 저서로는 『블랙박스 사회』, 『옥스포드 인공지능 윤리 핸드북』 등이 있다.

번역 조상규

한양대학교 전자공학과 대학원을 졸업하고 LG전자에서 인공지능 소프트웨어를 개발하고 있다. 대학원에서는 강화학습 기반의 머신러닝 로봇 제어 기술을 연구했으며 현재는 클라우드 컴퓨팅 기술을 바탕으로 전 세계 IoT 기기들의 데이터를 분석하는 소프트웨어를 개발하고 있다.