AI는 인간을 먹고 자란다

인공지능 신화에 가려진 보이지 않는 노동자들

마크 그레이엄 , 제임스 멀둔 , 캘럼 캔트 지음 | 김두완 옮김

흐름출판 2025년 05월 15일 출간 국내도서 : 2025년 05월 19일 출간

작품소개

책소개

『AI는 인간을 먹고 자란다』는 전 세계를 휩쓴 인공지능 혁명의 이면을 조명한다. AI는 인간의 노동, 창의성, 감정까지 빨아들이며 작동하는 ‘추출 기계’다. 우리가 일상에서 누리는 AI의 편리함은 데이터 주석자, 콘텐츠 검수자, 물류 노동자 등 수면 아래 존재하는 수많은 이들의 보이지 않는 노동 위에 세워져 있다. 10년간 30여 개국을 돌며 현장을 조사한 옥스퍼드대학교 인터넷연구소 연구진은 AI가 어떻게 노동을 소외시키고 창의성을 빼앗는지, 그리고 어떻게 불평등을 심화하고 민주주의를 위협하는지를 7명의 생생한 사례를 통해 보여준다. 동시에 더 공정하고 지속 가능한 디지털 미래를 위한 구체적인 대안을 제시한다. 이 책은 인공지능의 현재를 고발하고, 우리가 선택할 수 있는 미래를 묻는 강력한 르포이자 통찰의 기록이다.

‘추출 기계(Extraction Machine)란?
인간의 지식, 감정, 창의성, 시간, 육체적 노동과 같은 자원을 흡수하여 데이터를 생성하고, 이를 알고리즘으로 가공해 자본과 권력으로 전환하는 기술적·경제적 구조.

목차

머리말 : 추출 기계의 시대, 보이지 않는 노동자들

1장. 기계가 우리를 닮아갈수록, 우리는 기계가 되어 간다: 우간다 굴루, 데이터 주석 작업자
기계적이고 단순하며 예측 가능한 노동 | 갱 시스템: 당신을 쥐어짜겠습니다
기계는 어떻게 학습하는가 | 기계는 인간을 먹고 자란다 | 세계는 평평하지 않다

2장. AI는 사유하지 않는다: 영국 런던, 머신러닝 엔지니어
AI는 우리를 대체할 수 있을까 | 알고리즘 공포증 | 최후의 심판
디지털 우생학 | 공정하다는 착각

3장. 얼음과 불의 데이터 센터: 아이슬란드, 기술자
냉각과 전력 없이는 AI도 없다 | 전 세계를 연결하는 데이터 대동맥
인프라 권력을 차지하라 | 왜 구글이 우리 마을의 물을 마시는가 | AI 군비 경쟁

4장. 당신 목소리의 주인은 누구인가: 아일랜드, 예술가
예술가 없는 예술, 인간 없는 창작 | 창의력 테스트: AI는 진정한 창의력을 가질 수 있을까?
“그 순간, 베르테르의 구상이 완성됐다” | 모방과 창작을 가르는 선
새로움의 저주를 두려워 말 것

5장. 기계를 멈춰 세워라: 영국 코번트리, 물류 노동자
속도는 시스템이 정한다 | 아마존의 추출 기계를 소개합니다
AI 감시: 출근에서 퇴근까지 | 기계를 멈춰 세워라

6장. 자유를 지키는 독재자들: 미국 실리콘밸리, 투자자
황금광 시대 | 캘리포니아 벤처캐피털의 역사 | 민주주의가 배제된 기술
자기합리화인가, 더 나은 미래를 위한 선택인가

7장. 오래된 미래에 맞서는 사람들: 나이지리아 나이로비, 노조 활동가
아프리카 최초의 데이터 노동자 조합 | 그래서 무엇이 달라졌는가
국경을 넘어서

8장. 기계 재설계하기: 인공지능 시대의 노동 전략
노동조합과 노동자 조직의 집단적 힘을 강화한다
시민사회가 조직적으로 기업을 견제하고 책임을 묻는다
엄격한 규제를 도입한다
노동자들이 경영에 참여할 수 있는 구조를 모색한다
시스템의 불평등과 부정의에 맞선다

맺음말 : 이스라엘 가자지구를 바라보며
감사의 말
후주

책 속으로

인공지능은 흔히 인간지능을 비추는 거울이라고 불린다. 이는 인간의 사고 과정을 재현함으로써 지능을 해결하려는 시도라고 할 수 있다. 그러나 우리가 이 책에서 발전시킨 관점에서 보자면, AI는 추출 기계에 가깝다.
우리가 소비자로서 AI 제품을 사용할 때, 우리 눈에 보이는 것은 표면적인 결과물일 뿐이다. 그러나 그 세련된 외관 아래에는 AI를 작동하기 위해 필요한 복잡한 추출 기계 네트워크가 존재한다. 추출 기계는 자본, 권력, 천연자원, 인간 노동, 데이터, 집단 지성이라는 핵심 요소를 빨아들여 통계적 예측치로 변환한다. AI 기업들은 이를 이윤으로 전환한다. AI를 하나의 기계 즉 추출 기계로 이해하는 것은, AI가 내세우는 객관성과 중립성의 허울을 벗겨내는 시도이다. 모든 기계에는 역사가 있으며, 특정한 시기와 목적에 따라 인간이 설계하고 구축해 왔다. AI 또한 기존의 정치경제 시스템에 깊이 뿌리내려 있다. 데이터를 분류하고, 차별하며, 예측하는 모든 과정은 이를 만든 사람들의 이해 관계와 권력 구조를 반영한다. - 머리말

흔히 우리는 AI 개발이라고 하면, 팔로알토나 멘로 파크에 위치한 에어컨 잘 나오고 번지르르한 사무실에서 일하는 엔지니어들을 떠올린다. 그러나 AI 훈련에 필요한 약 80퍼센트의 시간이 데이터세트 주석 작업에 쓰이고 있다.9 자율주행차량, 극소 수술기기, 무인 드론과 같은 첨단기술은 모두 굴루 같은 곳에서 시작된다. 기술 평론가인 필 존스의 말처럼 “실제로 머신러닝의 마술은 고된 데이터 분류에 지나지 않는다.” 그러나 이러한 격무는 보통 제3의 공급자에게 외주로 맡겨진다. 데이터 주석 시장은 전 세계적으로 대호황이다. 2022년에만 22억 2,000만 달러의 가치를 인정받았고, 매년 약 30퍼센트씩 성장하고 있다. 2030년에 170억 달러에 이를 것으로 전망된다. - 1장

AI가 만들어지는 과정은 이러한 이상적인 그림과는 거리가 있다. 고대 그리스인들이 상상했던 것처럼, 기술이 신이 내린 선물일 리 없다.25 기술은 인간이 설계하고 개발하는 것이며, 그것을 만든 인간의 세계관과 가치관이 고스란히 반영된다. 기술은 언뜻 수학처럼 보이기도 한다. 추상적이고 보편적인 법칙에 따라 움직이며, 언제나 ‘참’인 것처럼 보인다. 이런 시각에서 보면, 특정 기술은 단순히 문제 해결을 위한 도구일 뿐이며, 사용자의 의도에 따라 자유롭게 활용될 수 있다고 여겨진다. 하지만 조금 더 면밀히 들여다보면, 이러한 테크 제품들은 특정한 가치와 욕망으로부터 자유롭지 않다. 오히려 그 안에는 지식과 권력의 시스템이 교묘하게 설계되어 있다. 어떤 기술이든, 그것이 만들어진 환경과 완전히 분리될 수는 없다. AI도 마찬가지다. AI의 발전은 여러 경제적 요인, 개발자들의 문화적 배경, 그리고 그들이 속한 사회의 가치관에 깊이 영향을 받는다. 따라서 AI가 중립적이며 편향이 없다고 가정하는 것은 매우 위험하다. - 2장

AI 군비 경쟁에서 살아남기 위해서는 AI 개발 생태계를 구축해야 한다. 개발 생태계를 구축하려면 희귀 광물 확보, 데이터 센터 건설, AI 연구소 설립, 인재 유치 등 다양한 분야에서 경쟁력을 높여야 한다. 일부 희귀 광물은 서구 국가에서도 채굴할 수 있지만, 대부분의 희귀 광물은 남반구 개발도상국에 매장되어 있다. 이로 인해 해당 지역에서의 자원 채굴이 늘어날 가능성이 높아졌으며, 노동권 침해, 환경 파괴, 불평등한 무역 협정 등의 문제가 일어날 수 있다. - 3장

AI 혁명이 예술에 가져올 진정한 위험은 인간이 창작한 예술이 사라지는 것이 아니라, 이 기술이 권력자에 의해 남용되어 창작자를 착취하고 기업의 이윤을 극대화하는 수단으로 전락할지 모른다는 것이다. 대형 상업 스튜디오들은 최대한 많은 과정을 자동화해, 인간 창작자를 고용하더라도 가급적 최소한의 비용만 지출하려 할 것이다. 기술이 실제로 어떻게 사용될지는 복잡한 사회적·경제적 요인에 의해 결정된다. 생성형 AI가 문제로 지적되는 이유는 예술을 값싸게 대체할 수 있는 ‘지름길’로 여겨지기 때문인데, 이는 창작자들이 정당한 보상을 받을 기회를 박탈할 수 있다. - 4장

일터에서 AI 기술이 도입되면서 새로운 형태의 감시와 지배가 확산될 가능성이 커지고 있다. 상대적으로 자율성이 보장되던 사무직 노동자들도 점점 더 알렉스와 비슷한 처지가 될 것이다. 노동 강도가 높아지는 현상은 유통, 접객, 서비스업 전반으로 확산되고 있다. AI 감시 기술은 직장에서 두 가지 역할을 한다. 하나는 생산 비용을 절감하는 것이고(그 대가로 일자리의 질과 노동자의 자율성, 기본적인 민주적 권리가 희생된다), 다른 하나는 노동자의 권리를 약화시켜 경영진의 권력을 강화하는 것이다.
- 5장

기술 발전을 지배하는 원칙은 뉴턴의 머리 위로 사과가 떨어지게 만든 물리 법칙과는 전혀 다르다. 기술은 사회적 힘이며, 기술을 결정하는 요소는 우리가 일상에서 경험하는 사회적 규칙과 동일하다. 즉, 이윤과 성장, 확장과 지배의 논리가 기술의 발전을 추동한다. 기술을 제대로 이해하려면 이를 형성하는 시스템과 그 안에서 벌어지는 갈등을 살펴봐야 한다. - 6장

우리 역시 AI 추출 기계에 투입되는 원재료가 되기를 거부한다. 우리 역시 인간의 노동력을 갈아 넣어 이윤을 뽑아내는 시스템 앞에서, 기계를 멈추겠다는 각오를 다진다. 그리고 그것을 움직이고, 소유한 이들에게 분명히 말하고자 한다. 리가 자유롭지 않다면, 그 기계는 결코 작동하지 못할 것이라고. - 맺음말

출판사 서평

어떻게 인공지능은 노동을 소외시키고 창의성을 빼앗는가
10년, 30여 개국의 연구자, 수백 건의 현장 인터뷰를 통해 완성한
옥스퍼드대학교 인공지능 보고서

우리는 지금, 상상마저 자동화된 시대에 살고 있다. “우리 가족 사진을 지브리 스타일로 바꿔줘.” 명령어 한 줄이면, 몇 분 만에 깜찍하고 이쁜 내 아이의 개성은 살려주면서도 미야자키 하야오 특유의 따뜻하고 몽환적인 감성이 담긴 그림이 완성된다. “내가 쓴 시를 밴드 콜드 플레이 풍의 노래로 바꿔줘”라고 하면 10분 안에 노래 한 곡이 완성된다.
그러나 세상에 공짜 점심은 없다. 챗GPT를 서비스하는 오픈AI는 지브리 스타일의 그림 요청이 급증하면서 하루 수백만 건의 이미지가 생성되고 있으며 이에 따라 수십 테라바이트에 달하는 데이터와 막대한 GPU 연산 자원과 전력이 소모되고 있다고 밝혔다. 오픈AI의 CEO 샘 올트먼은 “지브리 스타일 이미지 요청 때문에 서버가 녹아내릴 지경”이라고 언급하며 이 현상의 폭발적 인기를 강조했다.
AI 기술은 이제 단순한 오락을 넘어 검색, 광고, 교육, 가전제품, 자동차 등 우리의 일상 곳곳에 깊숙이 침투하고 있다. 하지만 기술이 너무도 마법 같아서 우리는 그것이 실제로 어떻게 작동하는지를 거의 묻지 않는다. SF작가이자 미래학자인 아서 클라크는 “충분히 발전한 기술은 마법과 구별되지 않는다”고 말한 바 있다. 오늘날의 AI는 정말로 마법처럼 보인다. 사용자의 질문에 즉시 답하고, 상상만으로도 그림과 음악을 창조하는 것처럼 보인다. 그러나 그 이면에서 무슨 일이 일어나고 있는지 제대로 아는 사람은 많지 않다.

기계가 우리를 닮아갈수록, 우리는 기계가 되어 간다

모두가 AI의 가능성과 미래에 환호하는 지금, 『AI는 인간을 먹고 자란다』는 이 마법의 이면을 직시하며 우리에게 불편한 질문을 던진다. AI는 정말 자율적인가? AI의 창의성과 편리성은 어디에서 오는가? AI는 과연 신처럼 공평무사한가? 그리고 그 모든 과정은 어떻게 이뤄지며 그 안에 문제는 없는가?
이 책은 옥스퍼드대학교 인터넷연구소의 마크 그레이엄 교수와 에섹스대학교의 제임스 멀둔, 캘럼 캔트 교수가 10년 넘게 전 세계를 돌며 수백 명의 AI 산업 관계자들을 인터뷰하고 기록한 연구서이자 생생한 현장 르포다. 저자들은 책에서 데이터 주석자, 콘텐츠 검수자, 성우, 물류 노동자, 기술자, 투자자, 노동운동가 등 AI 산업의 최전선에서 일하는 사람들을 만나 그들의 목소리를 통해 AI의 본질과 그 구조를 파헤친다.

“기계는 인간을 먹고 자란다. 그것은 우리의 노동, 우리의 창작, 우리의 시간을 삼킨다. 그리고 그것을 데이터와 통계로 바꾸어 다시 우리에게 돌려준다.” - 본문 중에서

이 책의 핵심 메시지는 간결하지만 강력하다. 저자들은 오늘날의 AI를 ‘추출 기계(Extraction Machine)’로 이해해야 한다고 주장한다. 추출 기계란 인간의 지식과 감정, 창의성과 노동을 흡수해 데이터를 만들어내고, 이를 다시 알고리즘으로 가공하여 이윤을 창출하는 구조적 장치를 뜻한다. 데이터는 하늘에서 떨어지지 않는다. AI가 존재하려면 반드시 ‘보이지 않는 노동자’들의 헌신이 필요하다. 우리가 매일 사용하는 AI 서비스는 누군가의 반복적인 클릭과 태깅, 그리고 분류 작업의 결과다. 이 데이터는 인간의 시간과 감정, 판단과 신체 활동이 고스란히 스며든 노동의 산물이다.
이처럼 AI는 인간의 삶에서 가치를 추출해 작동하는 시스템이며, 결코 중립적인 기술이 아니다. 저자들은 AI가 특정한 목적과 이해관계에 따라 설계된다는 점에서, 인간을 해방시키는 도구가 아니라 노동을 은폐하고, 추출하며, 통제하는 메커니즘이라고 지적한다. 그 과정에서 노동은 점차 비가시화되고, 창의성은 코드로 환원되며, 우리의 일상과 삶은 알고리즘의 논리에 의해 재편된다. 따라서 기술이 ‘객관적’이라는 환상에서 벗어나야 한다. 알고리즘은 중립적 계산이 아니라 특정한 세계관과 권력 관계를 구현하는 장치다. 저자들은 이를 ‘디지털 식민성’이라 부른다. 과거 제국이 식민지에서 자원과 노동을 추출해 부를 축적했듯, 오늘날의 빅테크 기업들은 남반구에서 데이터와 노동을 추출해 북반구에서 수익을 창출하고 있다.

“오늘날의 AI 산업은 식민주의적 착취 구조의 최신 버전일 뿐이며, 이 시스템은 노동자들이 구조 자체를 바꿀 수 없도록 철저히 설계되어 있다.” - 본문 중에서

“한편의 디스토피아 소설을 읽는 것 같다” - 퍼블리셔스 위클리
추출 기계를 숨 쉬게 하는 일곱 사람의 이야기

이 추출 기계가 어떻게 작동하는지는 책에 등장하는 인물들의 서사를 통해 생생하게 드러난다. 예를 들어 머리말에 소개되는 케냐의 콘텐츠 검수자 머시는 메타의 하청업체에서 하루 수백 개의 게시물을 검토하며 폭력과 혐오를 걸러낸다. 그러던 어느 날, 그녀는 교통사고 장면이 담긴 영상 속에서 자신의 할아버지를 목격한다. 고통과 충격 속에서도 그녀는 영상을 끝까지 보고 판단을 내려야 했다. 그녀의 감정과 고통은 시스템 안에서 고려되지 않는다.
우간다의 데이터 주석자 애니타(1장)는 자율주행차 훈련에 필요한 데이터를 수작업으로 분류한다. 그녀는 하루 열 시간 이상을 컴퓨터 앞에 앉아, 눈 깜빡임이나 신호등 같은 사소한 디테일에 태그를 붙인다. “기계가 똑똑해지려면 나 같은 사람이 필요해요.” 그녀는 자신의 일에 자부심을 느끼지만, 그녀는 3개월의 계약직으로, 고작 하루 1.6달러의 임금을 받는다. 인간의 창의력 또한 추출 기계의 먹이다. 아일랜드의 성우 로라(4장)는 자신의 목소리가 본인의 동의 없이 AI 훈련에 사용되었다는 사실에 충격을 받는다. 목소리는 단순한 음향이 아니라 예술이자 그녀의 정체성이다. 그러나 AI는 예술성과 인간성을 추출하여 이윤으로 바꾸고 있다. 이 과정에서 예술가들의 설 자리 사라지고 있다.
한편 영국 코번트리의 아마존 물류센터 노동자 알렉스(5장)는 AI 기반의 감시 시스템 아래에서 스스로를 기계처럼 느끼며 살아간다. 효율성의 이름으로, 그는 점차 인간이 아닌 숫자로 환원된다. 인간의 노동력만이 AI의 먹이일까? 3장에서 만날 수 있는 아이슬란드의 데이터센터 기술자 에이나르의 일상을 쫒다보면 새로운 깨달음을 얻게 된다. AI가 막대한 전력과 냉각 자원이 필요하다. 데이터센터 한 곳에서 쓰이는 전력과 물은 미국의 소도시 한 곳이 사용하는 것과 비슷한 수준이다. AI는 인간뿐 아니라 행성의 자원까지 함께 추출하고 있다.
미국 실리콘밸리의 벤처 투자자 타일러(6장)의 사례는 민주주의 관점에서 더욱 충격적이다. 그는 AI 스타트업에 투자하며, 데이터 주석 업무를 더 저렴한 노동력이 있는 지역으로 옮기도록 지시한다. 그의 결정 하나로 수많은 노동자의 삶이 결정되지만, 타일러에게 중요한 것은 오직 투자 수익률이다. 이처럼 소수의 권력자들이 AI를 통해 다수를 더욱 정교하고 효율적으로 통제할 수 있다는 점에서, AI는 사회의 공정한 룰을 침해하고 장기적으로는 민주주의를 위협하는 도구가 될 수 있다.
기술의 발달 경로는 필연이 아니라 선택이다. 그 선택에 따라 사회 구조가 결정되고 권력이 생겨난다. 그리고 우리는 어쩌면 그 권력을 다시 설계할 수 있는 마지막 시점에 서 있는지 모른다. 저자들은 AI가 진짜로 우리를 이해한다고 믿게 되는 그 순간, 우리는 기술에 감탄하기보다 질문해야 한다고 강조한다. 이 시스템은 어떻게 구축되었으며, 누구의 희생으로 유지되는가. 우리는 어떤 데이터를 제공하고, 어떤 사람의 노동을 통해 그 결과물을 받는가. 이 질문이야말로 기술을 사용하는 이들이 반드시 가져야 할 책임이라고 강조한다.

인간 중심의 인공지능을 설계하는 법

『AI는 인간을 먹고 자란다』는 단순한 고발서가 아니다. 기계는 다시 설계할 수 있다는, 작지만 분명한 희망도 이야기한다. 실제로 7장에서 만날 수 있는 케냐의 검수자들은 빅테크 기업에 맞서 자신의 노동권을 지키기 위해 세계 최초로 디지털 노동자 조합을 결성했다. 영국의 아마존 물류센터 직원들 역시 비인간적인 노동을 개선하기 위해 파업을 벌였고 파업의 열기는 영국을 넘어 유럽과 캐나다로 번져나갔다. 이 책은 기술 감시에 대한 시민사회의 권한, 알고리즘 설계에 대한 민주적 통제, 플랫폼 노동의 법적 보호 등 구체적인 대안을 제시한다.
이 책은 AI 기술의 현재와 미래를 따라갈 수 있는 가장 정교한 나침반이기도 하다. AI가 어떻게 만들어지고 작동하는지, 그리고 어떤 자원과 관계를 통해 유지되며, 앞으로 어떤 방향으로 진화할지까지 구조적으로 짚어낸다. AI가 무엇을 가능케 하느냐보다, 무엇을 배제하고 있느냐를 묻는 것. 그것이 이 책이 던지는 본질적인 질문이다. 우리가 사용하는 검색창과 음성 명령, 이미지 생성기, 챗봇과 자율주행 차량이 결국 어떤 사람들의 노동과 어떤 시스템의 논리 위에서 작동하고 있는지를 이해할 때, 비로소 AI의 신비에서 벗어나 현실이 된다. 이 책이 중요한 이유는 기술에 대한 비판적 성찰과 함께 더 공정하고 지속 가능한 디지털 미래를 만드는 구체적인 가능성을 제시하기 때문이다. 우리가 이 책을 읽어야 하는 이유가 여기에 있다.

작가정보

저자(글) 마크 그레이엄

(Mark Graham)
옥스퍼드대학교 인터넷연구소 교수. 디지털 노동, 플랫폼 경제, 글로벌 노동 시장의 불평등 문제를 꾸준히 연구해 왔다. 디지털 플랫폼 노동의 공정한 기준을 만들고 감시하는 국제 평가 프로젝트, 페어워크 프로젝트를 이끌며, AI 산업의 이면에 숨겨진 노동자들의 역할을 조명하고 그들의 노동 환경을 개선하는 데 힘쓰고 있다. 그의 연구는 세계은행, 국제노동기구, 유엔 등에서 디지털 시대 노동정책의 중요한 자료로 활용되고 있다.

저자(글) 제임스 멀둔

(James Muldoon)
에식스대학교 정치학 교수. 디지털 기술과 플랫폼 경제가 노동과 민주주의에 끼치는 영향을 탐구해 왔다. 특히 노동자가 플랫폼을 직접 소유하고 운영하는 플랫폼 협동조합에 관심이 많다. 자동화 시대에 노동자는 단순한 소모품이 아니라 자신이 만들어낸 가치를 스스로 통제할 수 있어야 한다는 관점에서 디지털 민주주의의 필요성을 꾸준히 제기하고 있다.

저자(글) 캘럼 캔트

(Callum Cant)
에식스대학교 노동사회학 강사. AI와 자동화 기술이 플랫폼 노동자에게 미치는 영향을 이론과 현장을 넘나들며 연구해 왔다. 배달 플랫폼 노동자의 현실을 밀착 조사한 『Riding for Deliveroo』를 집필했다. 그는 플랫폼 노동이 겉으로는 유연한 일자리처럼 보이지만 실제로는 매우 불안정하고 착취적인 구조 속에 있다고 진단한다. 동시에 노동자들이 스스로 조직화해 노동 조건을 개선할 수 있다고 믿으며, 그 가능성을 꾸준히 탐색하고 있다.

번역 김두완

고려대학교 불어불문학과를 졸업하고 연세대학교 커뮤니케이션대학 원에서 문화연구로 석사학위를 받았다. 대중음악 전문 컨트리뷰터, 온라인 백과사전 관리자, 단행본 출판 편집자, 음악 DB 매니저 등 여러 직함을 거 치면서 프리랜서-비정규직-정규직은 물론 대기업-중소기업-1인 기업까지 ‘다채로운’ 근로 형태를 경험 중인 ‘프로 노동자’이기도 하다. 『도파민네이 션』 『뇌를 이기는 습관』 『파리는 그림』 『유니버설 야구협회』 『모타운: 젊은 미국의 사운드』(공역) 등 번역한 책들도 못지않게 다양하다. 현재 한국대중 음악상 선정위원으로 있다.