셰임 머신

수치심이 탄생시킨 혐오 시대, 그 이면의 거대 산업 생태계

캐시 오닐 지음 | 김선영 옮김

흐름출판 2023년 04월 17일 출간 국내도서 : 2023년 03월 23일 출간

작품소개

책소개

당신의 수치심이 그들의 돈과 권력이 된다
극단적 갈등과 분열된 사회에서 약자는 어떻게 만들어지고 소비되는가

마트에서 넘어진 뚱뚱한 여성을 촬영한 숏폼 영상, 해외여행을 한 번도 가지 않았다는 뜻의 ‘개근거지’라는 신조어가 유행하는 교실, ‘참교육’이라며 행해지는 사이버 린치 등, 우리는 혐오가 횡행하는 시대를 살아가고 있다. 피해자는 어떻게 타깃팅될까? 외모, 피부색, 가난 등 다양한 수치심이 혐오라는 이름으로 확산하고 퍼져나가는 이유는 무엇일까? 수치심을 통해 이득을 얻는 이들은 누구일까? 갈등과 분열이 깊어진 사회가 회복될 수는 있을까?
20여 년간 월스트리트와 IT업계에서 알고리즘을 설계하고 빅데이터를 연구한 수학자 캐시 오닐은 『대량살상수학무기』를 통해 공정하고 객관적이라고 알려진 빅데이터와 알고리즘이 사실은 편향적이며 취약계층에 불이익을 준다는 것을 밝혀냈다. 그녀는 이제 한발 더 나아가 『셰임 머신』에서 플랫폼과 알고리즘을 통해 외모, 가난, 젠더, 피부색, 정치적 입장 등 다방면에 걸쳐 왜곡된 수치심이 구조화되고 이를 정치적, 상업적으로 활용하는 시스템, 수치심 머신을 고발한다. 그리고 수치심 머신을 역이용해 혐오와 불신으로 분열된 사회를 치유할 해법을 제시한다.

목차

서론: 존중이 사라진 사회, 혐오가 먹고사는 법

1부 수치심은 돈이 된다

1. 비만: 뚱뚱하다는 죄
인생의 첫 좌절 경험이 주는 것
비만에 관한 편견
다이어트를 한 번만 하는 사람은 없다
불행 포르노를 즐기는 사람들
점점 어려지는 다이어터 연령

2. 약물 중독: 낙인찍기와 책임 회피
마약과의 전쟁과 희생양
공감의 부재로 벌어진 마녀사냥
낙인찍기에서 벗어나는 건 왜 개인의 몫인가
질병으로 먹고사는 기업들
제약회사의 대국민 사기극
갱생 불가라는 낙인, 버려진 중독자들
공공연한 인권 유린 치료

3. 빈곤: 복지제도에 빌붙는 존재들
빈곤층은 게으르다는 서사
만연하고 당연한 밑바닥 혐오
가난 구제 정책의 명암
누구를 위한 고용센터인가
가난한 유전자는 없다

4. 외모: 코르셋을 권하는 사회
원초적 두려움을 자극한 광고
인플루언서 산업이 커지는 이유
젊음을 향한 열망과 노화 혐오
존엄성 회복으로 수치심 산업에 맞선다

2부 혐오는 어디서 시작하고 확산되는가

5. 사이버 불링: ‘좋아요’, ‘공유하기’가 낳은 마녀사냥
SNS 사진 한 장의 파급력
내 타임라인은 세상의 전부가 아니다
SNS에 개인정보가 박제된다는 것
소셜 미디어라는 시험대가 낳은 과시욕

6. 차별: 인종과 성 지향성 인식의 변화
구시대적 사고를 향한 정의 구현
온라인 사상검증의 모순
백인의 인지부조화
인종차별은 어떻게 합리화되는가
누군가에겐 나도 악플러다
특권층의 피해의식
표현의 자유 아래 이뤄진 배척

7. 인셀: 피해의식과 폭력성의 발현
인셀의 탄생
허무주의가 낳은 피해망상
선동가는 결속력을 강화한다
이탈자가 생기면 광신도가 늘어난다
히키코모리 현상
해로운 커뮤니티에 빠지는 이유

3부 정의감은 어떻게 무기가 되는가

8. 공공 에티켓: 팬데믹과 마스크
에티켓을 강제하는 것은 정당한가
하지 않을 자유를 뛰어넘는 마스크 대란
공공장소 흡연에 관한 시대의 흐름
백신 개발에 이용된 사회적 약자
사회적 공포 조장이 백신 거부를 낳았다

9. 권력과 저항: 촛불집회, 미투 운동, 부당해고
시민의 죽음이 불러온 촛불집회
식민지 국민의 저항운동 전략
사회를 바꾸는 것은 강한 목소리다
무해한 학생이 벌인 시위의 파급력
전 세계에서 일어난 미투 운동의 시작
자기 자리를 위협당한다고 느끼는 남성들
거대 기업이 부당해고를 하는 방법

10. 자아존중감 극복의 굴레
건강보다 체중감량에 더 반응하는 사람들
수치심은 극복할 수 있는 문제인가
수치심을 다스리는 법

결론: 누구에게 책임을 물어야 하는가
미주

책 속으로

수치심을 노리는 사업 기회는 늘 넘쳐흐른다. 러닝머신 구입, 코 성형수술, 광고 클릭, 가짜 명문대 학위 취득, 값비싼 다이어트 프로그램 가입, 특정 대선 후보에 대한 투표 유도 등 어떤 사업모형을 구상하든 먼저 사람들이 수치심을 느끼는 대상을 찾아야 한다. 자신의 어떤 점이 불만인지, 어떻게 하면 자기혐오가 줄어드는지 찾아내야 한다.
_14쪽, ‘서론’ 중에서

실현되지 않는 헛된 희망을 파는 시장은 탄탄하다. 실패는 다이어트 사업모형의 핵심으로, 웨이트 와처스(Weight Watchers)와 제니 크레이그(Jenny Craig) 같은 대형 다이어트 업체의 수익을 올려준다. 이들은 수치심에 빠져 자기혐오를 반복하는 무수한 고객으로부터 이윤을 취한다. 웨이트 와처스에서 최고재무책임자를 지낸 리처드 샘버는 일간지 『더 가디언(The Guardian)』에서, 고객의 84퍼센트가 다이어트에 실패하고 다시 우리 회사를 찾는다며 “바로 이것이 사업을 굴리는 원천이다”라고 밝혔다.
_44쪽, ‘비만: 뚱뚱하다는 죄’ 중에서

낙인은 수치심을 낳는다. 낙인은 가치 있는 자와 아닌 자를 알려주는 사회적 신호이기 때문이다. 각종 기관과 정부가 낙인찍는 역할을 자처할 때, 한 사람의 가치를 예단하는 시스템이 만들어진다. 다시 말해 온 세상이 내게 쓸모없다고 말하면, 나 자신도 거기에 동조해버린다.
_64쪽, ‘약물 중독: 낙인찍기와 책임 회피’ 중에서

학생들은 대학에서 저소득층 학생에게 요구하는 특정 서사가 있다고 설명했다. 역경을 극복했거나 열악하고 위험한 환경에서 빠져나온 이야기와 불우한 환경일수록 좋다고 했다. 이런 배경이 있어야 자격 있는 지원자로 분류된다. 미국의 공공정책 중 상당수는 ‘게을러서 가난하다’는 판단을 구체화한다. 실직자가 실업수당을 신청하러 갔다가 마주한 것은, 상부 지시에 따라 모든 실업수당 신청자를 잠재적 사기꾼으로 간주하는 그리고 복지 지출을 최소화하느라 여념이 없는 공무원들이었다.
_85~86쪽, ‘빈곤: 복지제도에 빌붙는 존재들’ 중에서

페이스북과 구글 같은 거대 기업이 이끄는 디지털 업계는 온라인에서의 조롱으로 이윤을 얻을 뿐 아니라 이런 행동을 이용하고 퍼뜨린다. 수학자는 심리학자 및 인류학자와 긴밀히 협업해 이용자의 행동 데이터를 바탕으로 알고리즘 기계를 학습시킨다. 이들의 목적은 이용자를 온라인에 끌어들여 광고라는 금광을 캐는 것이다. 조롱은 트래픽을 올리고 수익을 높인다.
_136쪽, ‘사이버 불링: ‘좋아요’, ‘공유하기’가 낳은 마녀사냥’ 중에서

출판사 서평

당신의 수치심이 그들의 돈과 권력이 된다
“위험하지만, 외면할 수 없는 현실을 다룬 책!” - 『더 타임스』

“단식, 그리고 위고비.” 최근 일론 머스크 테슬라 CEO와 인플루언서 킴 카다시안이 자신의 SNS로 비만 치료제 ‘위고비’를 소개하자 미국 시장에서 해당 제품이 품귀현상이 일어날 정도로 선풍적인 인기를 끌었다. 성인 비만율이 40%에 달하는(OECD 발표 2021년 기준) 미국에서는 비만은 개인의 문제를 넘어 퇴치되어야 할 질병으로 치부되고 있다. 이런 바람을 타고 비만 치료제 시장 규모는 2021년 4조4700억 원에서 2026년 5조8200억 원까지 커질 것으로 예상된다. 건강을 위해 뚱뚱함을 관리하는 것은 필요하다. 그런데 비만에 대해 논의하는 과정에 빼놓지 않고 따라오는 이슈가 있다. 바로 뚱뚱한 사람에 대한 손가락질이다.
20여 년간 월스트리트와 IT업계에서 알고리즘을 설계하고 빅데이터를 연구한 수학자 캐시 오닐은 『대량살상수학무기』를 통해 공정하고 객관적이라고 알려진 빅데이터와 알고리즘이 사실은 편향적이며 취약계층에 불이익을 준다는 것을 밝혀냈다. 그녀는 이제 한발 더 나아가 『셰임 머신』에서 플랫폼과 알고리즘을 통해 외모, 가난, 젠더, 피부색, 정치적 차이 등 생각할 수 있는 모든 부분에 걸쳐 문제의 원인을 개인에게 돌리고 그들 그리고 우리의 수치심을 부추기며 확산하는 시스템을 고찰한다. 그리고 이를 활용해 정치적, 상업적으로 이익을 얻는 이들이 누구인지 분석한다.

2014년, 미국 다이어트 리얼리티 〈비기스트 루저〉 방영 당시 118kg에서 47kg까지 감량한 우승자가 폭발적인 인기를 얻었다. 죽지 않을 만큼 먹고 몇 시간씩 운동하며 몸을 혹사한 결과다. 우승자를 비롯해 방송 참가자들은 매우 뚱뚱했다. 현실에서 보기 드문 비만인들을 선별했기 때문이다. 방송은 수백만 시청자에게 ‘당신은 인생의 낙오자를 보고 있다’라는 메시지를 은연중에 흘린다. 시청자들은 나 정도면 날씬한 편이라고 비교하거나 저들처럼 되지 않으려면 운동해야겠다고 다짐한다.
그러나 방송을 통해 다이어트에 성공한 참가자들은 14명 중 4명이 출연 전보다 체중이 더 늘었고 나머지 출연자들 또한 10kg 이상 요요현상을 겪었다. 조사 결과 이는 이 방송의 시청자들도 마찬가지였다. 일시적으로 다이어트에 성공한 사람은 일부에 불과했고 상당수의 사람이 살과의 전쟁에서 패배했다는 수치심을 안고 자기혐오에 빠져들었다.
다이어트로 이익을 본 사람은 결국 뚱뚱한 사람들이 아니라 이를 전시한 방송국과 후원 기업들이었다. 저자는 불안과 자기혐오에 기반한 수치심이 비단 다이어트 산업의 특징만은 아니라고 말한다.
수치심은 신체, 건강, 도덕 등 규범에서 파생하기 때문에 스스로 사회적 기준에 못 미친다고 자각하는 순간, 존엄성이 부정당한다고 느낀다. 정부나 기업에서는 비만, 빈곤, 약물 중독과 같이 저변에 깔린 수치심을 이용하여 공동체의 질서 유지를 위한 도구로 쓰고 있다.
특히 소셜 미디어다는 수치심을 극대화하는데 일조하고 있다. 플랫폼의 알고리즘은 수치심을 자극하는 데 최적화되어 있다. 거대 디지털 기업은 상업적 이익을 위해 알고리즘을 활용해 외모나 조악한 취향, 정치 이슈를 놓고 서로 조롱하도록 갈등을 부추긴다. 이런 흐름은 기업의 이윤뿐만 아니라 혐오정서를 군중에 전파하며 수치심의 악순환을 영구화한다.
『셰임 머신』에서는 이 일련의 과정을 수학자이자 알고리즘 설계자의 관점에서 상세히 분석한다. 저자는 플랫폼과 알고리즘을 통해 외모, 가난, 젠더, 피부색, 정치적 입장 등 다방면에 걸쳐 왜곡된 수치심이 확산하고 이를 정치적, 상업적으로 활용하는 시스템을 ‘수치심 머신(Shame Machine)’이라고 정의한다. 수치심 머신이 작동하는 사례는 우리 일상생활에 이미 깊숙하게 들어와 있다. 책에 소개된 일상적인 사례 살펴보자.

[1]
앨라배마주 버밍햄의 어느 학교에 다니는 3학년 남자아이가 팔에 도장이 찍힌 채 하교했다. 웃는 표정의 도장 아래에 글씨가 적혀 있었다. 아이의 아빠는 ‘참 잘했어요’라고 쓰인 줄 알았다가 문구를 확인하고 할 말을 잃었다. ‘급식비 주세요’라고 적혀 있던 것이다. 급식비 통장 잔액이 1.38달러밖에 남지 않았지만 마이너스는 아니었는데도 그랬다.

[2]
한때 유망한 고등학교 운동선수였던 제프는 고등학교 2학년 때 무릎 수술을 받았고 주치의가 마약성 진통제 옥시콘틴을 처방했다. 몇 년 전 제약회사 퍼듀에서 중독성이 없는 진통제라며 요란하게 마케팅했던 약이었다. 제프는 점점 약에 의존하며 중독되었지만 주변에 도움을 청하지 못하고 그 사실을 숨겼다. 고등학교 운동 스타의 추락이라는 비난을 이겨낼 자신이 없었다. 결국 그는 불법적으로 약물을 구하다 시체로 발견된다.

이런 낙인찍기가 최근 소셜 미디어와 결합해 더 강력해지고 있다. 페이스북과 구글을 비롯한 거대 디지털 기업은 기계학습 알고리즘을 통해 대중 사이에 혐오 정서를 퍼트리는 최적의 값을 찾으면서 트래픽과 광고 효과를 높여 이윤을 얻는다. 가장 높은 기업 가치를 자랑하는 곳이 서로를 조롱하는 전쟁터가 된 것이다. 각종 인스타그램 광고와 페이스북 게시글의 수십만 개의 좋아요 수, ‘빌런’이라고 낙인찍은 유튜브 영상 댓글 수는 만연해진 갈등 사회의 모습을 여실히 드러낸다.

혐오는 어디서 시작하고 확산되는가

누구나 스스로 불만을 갖는 점이 있다. 집안 환경, 잘나지 않은 외모, 낮은 학교 성적 등 우리는 일상에서 종종 회피하고 싶은 수치심에 빠진다. 이 책의 저자 캐시 오닐도 마찬가지였다. 그녀는 어린 시절부터 뚱뚱해서 늘 위축되었고 극복하려 했지만 그렇지 못했다고 회고한다. 다양한 다이어트 프로그램에 참가하고 수술까지 받았지만, 체중은 언제나 제자리로 돌아왔고 그럴 때마다 그녀는 극심한 자기혐오에 빠져들었다고 한다. 수학 천재, 종신교수, 월스트리트의 잘 나가는 퀀트, 베스트셀러 작가라는 타이틀도 이 자기혐오의 굴레에서 벗어나게 하진 못했다.
그러던 어느 날, 부당해고 위기에 놓인 한 교사와 인터뷰를 하던 도중 놀라운 경험을 하게 된다. 교사는 알고리즘을 통해 분석된 교원 평가 채점이 부당하다고 교육 당국에 항의했다. 그런데 돌아온 대답은 “(그녀가 알고리즘에 무지하기 때문에) 교원 평가의 채점 기준을 봐도 이해하지 못한다”였다. 저자는 교사가 경험한 조롱(당신은 알고리즘을 이해할 만큼 똑똑하지 않다)과 자신의 비만을 대하는 외부자적 시선이 놀랍도록 닮았다는 것을 깨닫게 된다.
이 만남을 통해 자신을 오랫동안 위축시켰던 비만에 대한 자기혐오가 당연한 것이 아니며 어쩌면 왜곡된 것일 수 있다고 생각하게 된다. 이후 여러 이슈가 수치심이란 이름으로 알고리즘, 플랫폼을 통해 구조화되고 확산하는 경로를 추적한다. 이를 통해 저자는 수치심이 현대사회에서 억압과 이윤, 통제의 도구로 쓰인다는 결론을 내린다. 특히 인종, 빈곤, 약물 중독 등 구조적 실패가 일차적 원인으로 지적되어야 할 문제까지 그 화살을 개인으로 돌리고 더 나아가 이를 상업적으로 활용하는 시스템에 주목하게 된다.

빈곤층을 비난하면 부유층은 돈을 아낄 뿐 아니라 우월감을 느낀다. 날씬한 사람이 뚱뚱한 사람 앞에서 느끼는 뿌듯함, 정신이 멀쩡한 사람이 약물 중독자나 알코올 중독자를 보며 느끼는 자기만족과 비슷하다. 나는 성공했고 저들은 실패했다는 심리다. 수치심 체계를 떠받드는 태도다. (86쪽)

무지, 외모, 빈곤, 약물 중독, 인종차별, 공중도덕, 인셀 문화에 이르기까지 수치심 머신의 영향력은 우리 삶의 다양한 분야에서 행사된다. 못생긴 사람을 싫어할 자유, 동성애자를 싫어할 자유, 무식한 사람에게 지적할 자유 등 다양한 혐오 표현이 자유라는 이름 아래 이뤄진다.
대부분 취약계층이 손가락질을 받지만 수치심 시스템에서는 누구든 공격의 대상이 된다. 뉴욕 센트럴파크에서 개와 함께 산책한 40대 백인 여성이 인종차별자라고 비난당했던 일명 에이미 사건이 대표적이다.
행인이 개에게 목줄을 채워달라고 부탁했지만 에이미는 거절했다. 그리고 행인이 흑인이었기 때문에 불안한 마음에 아프리카계 미국인에게 공격당했다고 허위신고를 했다. 행인은 그 모습을 촬영하여 페이스북에 올렸고, 수십만 네티즌들의 비난 끝에 흑인에게 권력을 휘두르는 백인 여성을 뜻하는 ‘캐런’이란 신조어를 탄생시켰다. 에이미는 인종차별자로 비난받으며 직장에서 해고되었다. 사과했지만 인신공격은 계속 됐고 그녀는 사회적으로 매장됐다. 몇 년 전이라면 흑인이 위협한다고 경찰에 신고한 백인 여성에게 어떤 비난도 하지 않았을 것이다. 그러나 규범이 달라진 지금은 같은 행동을 하면 질타받는다. 이는 새로운 형태의 수치심이 언제든 생길 수 있다는 것을 보여준다.

히잡 시위, 미투 운동, 월스트리트를 점령하라…
수치심 머신을 통해 정의를 구현할 수 있다

그렇다면 수치심 머신을 모두 없애버려야 할까? 저자는 이를 역이용하면 오히려 여러 사회문제를 해결할 수 있다고 말한다. ‘대중이 아닌 권력자에게 수치심 머신을 휘두름으로써 파급력의 방향을 바꿔야 한다’라고 역설한다.
이란의 원리주의를 흔들고 있는 ‘히잡 시위’, 성차별에 대한 세계적 각성을 불러일으킨 미투 운동, 탐욕적인 금융회사에 경종을 일으킨 ‘월스트리트를 점령하라’처럼 가난하고 힘없는 피해자가 아니라, 대중을 이용하고 삶과 문화에 해악을 끼치는 자들이 수치심을 느끼게 하여 공익을 지키자는 것이다.

헐리우드 영화계 실세인 하비 와인스타인의 성범죄는 공공연한 비밀이었다. NBC방송 〈투데이(Today)〉의 공동 진행자 매트 라우 어는 사무실 책상 밑에 문을 잠그는 버튼을 설치했다고 알려졌는데, 성폭력을 당하는 피해 여성이 달아나지 못하게 막는 장치로 짐작됐다. 가해자로 지목된 남성들은 엄청난 수치심에 직면했다. 사회의 성적 관습이 자신에게 유리하다고 자신하며 승승장구한 권력층 남성들이 마침내 본인의 행동에 책임져야 할 때가 왔다. 미투 운동으로 여성들은 권력층 범죄자들을 수치스럽게 할 수 있는 힘을 얻었다. (256쪽)

수많은 갈등과 사회를 지배하는 혐오의 시대, 수치심이란 영역에서 대중은 피해자이면서 동시에 가해자일 수 있다. 그렇기 때문에 “수치심이라는 무기를 신중히 휘둘러야 한다.” 우리가 주목해야 할 것은 일상에서 수치심이 어떻게 확산하는지 자각하고 혐오 표현이 향하는 방향을 인지하는 것이다. 그래야 누가 우리의 수치심을 활용해 돈과 권력을 취하는지 알 수 있고 이에 대응할 수 있다.
“능력주의 갈등 사회에서 우리 삶을 위축시킨 수치심을 없애고 사회 구성원들의 신뢰 회복이 필요”하다고 말한 송길영 빅데이터 전문가의 추천사처럼, 이 책은 우리를 괴롭힌 수치심에 대한 관점을 바꾼다면 사회를 어떻게 바꿔 나갈 수 있는지 반격할 힘을 얻는다고 제안한다.

작가정보

저자(글) 캐시 오닐

Cathy O’neil
UC버클리를 졸업하고 1999년 하버드대학교에서 수학박사학위를 받았다. 매사추세츠공과대학교(MIT)에서 박사후과정을 거쳐 버나드 칼리지 수학과 종신교수로 재직했다. 2007년 학계를 떠나 월스트리트에서 헤지펀드 디이 쇼(D.E. Shaw)의 퀀트가 되었고 2000년대 금융계의 호황과 붕괴를 겪는다. 이후 IT 업계에서 데이터과학자로서 금융상품의 위험도와 소비자 구매 패턴 등을 예측하는 수학 모형을 개발했다.
상업, 금융, 교육 분야에서 알고리즘을 설계한 오닐은 공정하고 객관적이라고 알려진 빅데이터와 알고리즘이 사실은 편향적이며 취약계층에 불이익을 준다는 것을 깨닫는다. 이를 엮은 『대량살상 수학무기』는 빅데이터와 알고리즘에 대한 맹신을 깨는 데 공헌했다. 이 책은 80주 이상 아마존 베스트셀러에 머물렀고, 오일러 도서상을 수상, 전미 도서상 파이널 리스트에 오르는 등 인기를 모았다.
어린 시절부터 뚱뚱함이 콤플렉스였던 그녀는 날씬해야 한다는 사회적 압력과 그러지 못한 자신의 간극에 의한 수치심을 오랫동안 체감해왔다. 체중 감량 실패를 수없이 반복하며 다이어트 업계가 사람들을 상업적으로 이용한다고 자각했다. 이후 알고리즘의 차별 문제를 탐구하며 비만뿐만 아니라 빈곤, 중독자 등 취약계층의 삶이 어떻게 플랫폼을 통해 조직적으로 소비되고 조롱당하는지 목격했다. 그 비난이 자신의 비만을 대하는 시선과 놀랍도록 흡사하며, 그들 또한 암울한 삶의 쳇바퀴에서 벗어나지 못한다는 걸 알게 된 그녀는 사회 균열의 근원에 잘못된 수치심이 있고 이를 알고리즘이 극대화한다는 것을 깨달았다.
이러한 경험을 토대로 쓴 『셰임 머신』은 사회를 계급화하고 통제하는 도구로써 수치심과 디지털 플랫폼, 알고리즘의 상관관계를 파헤치며 이를 어떻게 극복할지 실마리를 제시한다. 정서적 격차가 점점 커지는 시대에 그녀의 날카로운 분석은 전 세계 독자들에게 크게 회자되고 있다.
현재 오닐은 알고리즘을 감사하고 위험성을 측정하는 기업, ORCAA를 설립해 빅데이터와 알고리즘의 명암을 추적하면서, 사회에 미치는 실존적 위협에 대해 꾸준히 목소리를 내고 있다.

번역 김선영

이화여자대학교 신문방송학과를 졸업하고 서울대학교 대학원에서 경제학을 공부했다. 현재 바른번역에서 전문 번역가로 활동 중이다. 옮긴 책으로는 『마인』 『정의는 어떻게 실현되는가』 『개소리는 어떻게 세상을 정복했는가』 『금융의 지배』 『엑소더스』 『식량의 종말』 등이 있다.