AI와 살아가기 위한 기초 지식

타비타 골드스타우브 지음 | 김소정 옮김

해나무 2024년 02월 01일 출간 종이책 : 2024년 01월 24일 출간

작품소개

책소개

유튜브 추천 영상을 끊기 어려운 이유는 뭘까? AI 무기가 만들어지면 위험하지 않을까? AI 시대에 코딩을 꼭 배워야 할까? 우리는 일상 속에서 AI를 즐겁고 편리하게 이용하지만 동시에 현실 사회에 나쁜 영향을 끼치지 않을까 우려한다. 그러면서도 질병 진단, 맞춤형 교육, 기후 변화 대처 등 AI의 무한한 활용 가능성에 대해서도 기대감을 품는다. 결국 AI는 우리가 어떻게 감시하고 사용하느냐에 따라 우리를 무너뜨릴 수도 있고, 우리를 희망찬 미래로 이끌어줄 수도 있다.
『AI와 살아가기 위한 기초 지식』은 AI 개념부터 간략한 역사, 작동 원리, 위험성과 잠재력, 실천 사항까지 핵심 주제들을 다룬 AI 입문서다. 코딩을 배우면 좋겠지만, 그런 기술이 없다고 해도 기술을 두려워할 필요는 없다. 중요한 것은 기술을 다루는 능력이다. 영국의 기술 지식 네트워크 코그니션X(CognitionX)의 공동창립자 저자 타비타 골드스타우브는 기업가로서 AI의 미래를 내다보고 AI와 관련된 다양한 분야에서 활동하고 있는 전문가들을 인터뷰하며 AI 지식을 쉬운 언어로 풀어냈다. 청소년은 물론 평범한 일반인까지 AI 세상을 궁금해하는 사람들에게 좋은 출발점이 되어줄 것이다.

목차

들어가며
핵심 용어
1장 그래서 AI가 정확히 뭐죠? _AI를 알아야 하는 이유
2장 간략하고 완전한 AI 역사_AI 개발에 공헌한 여성들
3장 내게 너무나도 친절한 AI _AI는 어떻게 작동하는가
4장 AI는 나쁜 것도 배운다 _위험성 직시하기
5장 인류의 든든한 협력자 _AI를 이롭게 사용하는 법
6장 AI를 신뢰할 수 있는가 _코로나19 팬데믹 성찰하기
7장 ‘부드러운 기술’을 보유한 사람들 _인터뷰
8장 AI를 능가하는 방법 _행동 지침
9장 이제 무엇을 해야 할까? _권장 도서와 참고 자료
감사의 말
찾아보기

책 속으로

나는 과학자도, 공학자도, 개발자도, 기술자도 아니다. 내가 기술을 그토록 오랫동안 이해하지 못했던 것은 기술적인 생각이 대부분 복잡한 수학을 토대로 하고 있기 때문이다. AI 기술이 세상에 미칠 영향을 이해하고 싶다고 해서 반드시 AI 기계의 내부 작동 원리를 정확하게 알 필요는 없다. 이 사실을 깨달은 순간, 나는 정말로 해방감을 느꼈다. 우리에게 필요한 것은 그저 새로운 세상에서 적응하고 번영할 방법을 익히는 일이며, 우리가 익힌 내용을 다른 사람들도 익힐 수 있도록 돕는 방법을 분명하게 이해하는 것뿐이다. (17쪽)

AI 시스템을 구축하는 데 우리도 참여할 수 있다. 제품 하나를 만들 때 얼마나 많은 단계가 필요한지 생각만 해봐도 우리는 그 방법을 알 수 있다. AI 기술을 구현하고 싶은 회사는 AI에게 목소리를 줄, 언어를 사랑하는 사람들이 필요할 것이다. AI에게 현대인의 사고방식과 역사를 알려줄 철학자와 역사가도 필요할 테고, AI가 목적에 맞게 잘 구현됐는지를 확인할 제품 관리자도 필요할 것이다. 인간처럼 생각하고 행동하는 기계를 만들려고 노력하는 동안 기술과는 상관없는 일을 하는 사람이 점점 더 많이 필요해질 것이다. AI에게는 전문적인 능력이 아니라 다재다능함이 있어야 한다. 이런 힘이 몇 사람의 손에만 쥐어져서는 안 된다. 현재 AI 분야의 일자리 거의 대부분을 차지하고 있는 남성의 손에만 머물게 해서는 안 되는 것이다. (32~33쪽)

나는 AI의 발전에 그레이스 호퍼가 엄청나게 중요한 역할을 했다고 생각하는데, 컴퓨터 언어로 변환해주는 번역기를 효과적으로 이용함으로써 프로그램 언어를 아는 소수의 남성만이 할 수 있던 프로그래밍에 사람들이 ‘훨씬’ 쉽게 접근할 수 있게 해주었기 때문이다. 호퍼는 남자 프로그래머들이 평범한 사람들과 컴퓨터를 연결해주는 문지기 역할을 하면서 스스로 ‘고위 사제’처럼 군다고 생각했다. 이는 호퍼가 프로그램에 획기적인 돌파구를 마련하는 일이 남자 동료들에게는 인기가 없었음을 말해준다. 훗날 호퍼는 그 상황을 다음과 같은 말로 정리했다. “어떤 사람이 한 가지 기술을 발견해 그 기술을 익히려고 열심히 애쓰고 있는데 누군가 다가와 ‘그럴 필요 없어. 여기, 더 좋은 게 있잖아’라고 말하면 상당히 화가 나는 게 당연하다.” 호퍼는 신념을 굽히지 않았다. (57~58쪽)


여기서 반드시 이해해야 할 점이 하나 있다. AI는 그 자체로는 편향이 없다는 것이다. AI는 자신이 익힌 데이터와 데이터가 가르쳐주는 세상을 반영한다. 의도치 않게 여성 혐오적이고 인종차별적인 소프트웨어로 ‘양육된’ AI의 좋은 예로는 마이크로소프트의 AI 챗봇 테이Tay가 있다. 테이는 자신의 트위터 계정에 올라온 사진에 대해 언급하거나 농담을 하는 등 다양한 과제를 수행할 목적으로 탄생한 AI 챗봇으로, 스스로 환경에 적응하도록 설계됐다. 온라인에서 사용자들과 소통하며 성격을 형성하도록 설계된 테이에게는 인종차별 코드는 심어져 있지 않았다. 온라인 사용자들에게서 인종차별적인 언어를 배운 뒤에야 테이는 자신의 언어에 인종차별적인 말들을 담기 시작했다. (108쪽)


중독을 부르는 AI 설계는 시간 낭비와 고립 말고도 또 다른 악영향을 미친다. 유튜브의 AI가 그저 사용자를 계속 온라인에 붙잡아두려는 무해한 의도로 설계되었지만 사용자가 세상을 보는 시각에 엄청난 영향을 미치는 것이 그 예다. 유튜브가 처음부터 추천 알고리즘을 플랫폼의 한 요소로 활용했던 것은 아니다. 하지만 이제 유튜브에는 사용자가 한 동영상을 보면 계속해서 유튜브를 시청할 수 있도록 비슷한 영상을 추천하는 여러 기능이 있다. 동영상 자동 재생 기능을 보자. 이 기능은 유튜브에서 사용자가 이미 시청한 동영상을 기반으로 개인 맞춤형 동영상을 연속으로 재생해준다. 사용자가 원하는 것을 더 많이 제공해준다니, 아주 멋진 기능처럼 느껴진다. 문제는 알고리즘이 클릭할 가능성이 가장 높은(알고리즘에 성공으로 입력되어 있는) 링크라고 파악하고 자동으로 재생하는 동영상에는 극단적인 발언이, 심지어 혐오 발언이 포함되어 있을 가능성이 높다는 것이다. (112~113쪽)


사진 한 장의 해로움을 판단하려면 해로운 콘텐츠가 어떤 형태라는 사실을 AI에게 알려주는 막대한 양의 사진이 필요하다. AI를 학습시키는 이 첫 번째 과정(해로운 사진을 입력하는 일)은 사람이 해야 한다. 다시 말하면 사이트 사용자에게 해로울 수도 있는 콘텐츠를 노출하지 않기 위해 어딘가에서 누군가는 끊임없이 보기 힘든 사진들을 보면서 작업해야 한다는 뜻이다. AI 시스템 뒤에서 사람이 하는 이런 작업을 보통 콘텐츠 관리라고 한다. 콘텐츠 관리를 하는 사람은 낮은 임금을 받으며, 스트레스를 많이 받아 외상 후 스트레스성 장애로 힘들어한다는 사실은 널리 알려져 있다. (120쪽)

AI 무기를 만들어야 하는 이유를 내세우는 주장들이 있기는 하지만(AI 무기가 있으면 사람들이 직접 전쟁터에 나가지 않아도 된다는 것도 그런 주장 가운데 하나다), AI를 다루는 거물들은 이 문제를 크게 우려해 자율 공격이 가능한 무기를 개발하거나 기획하지 않겠다는 성명이나 합의를 발표했다. 구글 직원들이 회사의 비윤리적 행위에 반대해 대규모 시위와 파업을 벌이자, 구글은 2018년에 자율 무기 개발을 금지했고 미국 국방부와 계약을 갱신하지 않았다. ‘기술은 AI 무기를 만들지 않는다(#TechWontBuildIt)’는 대규모 캠페인의 일환으로, 아마존과 구글의 직원들이 사용하는 해시태그다. 전쟁 프로젝트에는 참여하지 않겠다는 거부의 표현이다. (124쪽)

여성은 자신감이 부족하다는 것이 문제가 아니에요. 업계에 변화가 필요해요. 일터는 여성 리더들이 이 분야에서 새로운 일을 시작하기에 편안하다는 느낌을 받을 수 있는 공간이 되어야 해요. 내가 여기에서 보탬이 될 이러저러한 일을 하겠다고 말할 수 있을 만큼요. 그저 현 상황을 받아들이고, 그것을 돌파할 방법을 찾을 게 아니라요. (191쪽)

기술이란, 종이에 뭔가 자기 생각을 쓰려면 펜이 필요한 것처럼 그저 무언가를 가능하게 해주는 도구라는 사실을 알려주고 싶어요. 이미 좋아하는 것을 조금 더 즐길 수 있게 도와주는 도구가 기술이에요. 내가 해주고 싶은 조언은 함께할 사람을 찾으라는 거예요. 이 여정을 혼자서 해내려고 애쓰지 말고요. 온라인이나 오프라인에서 함께 배우고, 기술을 익히고, 지루하거나 겁나는 부분을 함께 공유할 수 있는 사람을 찾으세요. 기술은 그 기술을 사용하는 만큼만 좋을 수 있기 때문이에요. 살아가면서 겪는 일을 극복하는 데 기술이 어떻게 도움이 되는지를 가장 잘 파악할 수 있는 사람은 자기 자신이에요. (196쪽)

흥미로운 디지털 혁신이, 혹은 AI 개발이 모두 컴퓨터 화면 뒤에서만 일어나는 건 아니에요. 내가 생각하기에 가장 흥미로운 연구와 교육은 여러 과목 사이의 경계면에서 일어나요. 하지만 강의 계획서를 벗어나는 기술을 적절하게 알려줄 뛰어난 교사가 없다면 학제 간 수업이 제대로 진행될 리 없어요. 젊은 사람들을 얼마나 일찍 전문가로 만드느냐도 또 다른 문제예요. 아이들은 서너 가지 과목에 집중해 앞으로의 인생을 규정짓는 것이 아니라, 십 대 시절을 자신이 누구인지를 알아내는 시간으로 사용해야 해요. (207~208쪽)

출판사 서평

이 책은 미래의 AI가 좀더 ‘나은’ 인간적인 방향으로 나아가는
하나의 이정표가 되어줄 것이다.
- 하리하라 이은희(과학 커뮤니케이터)

“알고리즘에게 명령을 내려야지, 명령을 받으면 안 돼요!”

유튜브 추천 영상을 끊기 어려운 이유는 뭘까? AI 무기가 만들어지면 위험하지 않을까? AI 시대에 코딩을 꼭 배워야 할까? 우리는 일상 속에서 AI를 즐겁고 편리하게 이용하지만 동시에 현실 사회에 나쁜 영향을 끼치지 않을까 우려한다. 그러면서도 질병 진단, 맞춤형 교육, 기후 변화 대처 등 AI의 무한한 활용 가능성에 대해서도 기대감을 품는다. 결국 AI는 우리가 어떻게 감시하고 사용하느냐에 따라 우리를 무너뜨릴 수도 있고, 우리를 희망찬 미래로 이끌어줄 수도 있다.
『AI와 살아가기 위한 기초 지식』은 AI 개념부터 간략한 역사, 작동 원리, 위험성과 잠재력, 실천 사항까지 핵심 주제들을 다룬 AI 입문서다. 코딩을 배우면 좋겠지만, 그런 기술이 없다고 해도 기술을 두려워할 필요는 없다. 중요한 것은 기술을 다루는 능력이다. 영국의 기술 지식 네트워크 코그니션X(CognitionX)의 공동창립자 저자 타비타 골드스타우브는 기업가로서 AI의 미래를 내다보고 AI와 관련된 다양한 분야에서 활동하고 있는 전문가들을 인터뷰하며 AI 지식을 쉬운 언어로 풀어냈다. 청소년은 물론 평범한 일반인까지 AI 세상을 궁금해하는 사람들에게 좋은 출발점이 되어줄 것이다.


중요한 것은 기술을 다루는 능력이다
AI 세상에 단단히 대비하는 첫걸음

저자 골드스타우브는 공학자나 개발자가 아닌 기업가로서 인공지능(AI) 기술의 필요성과 잠재력, 그리고 위험성을 인식하고 누구나 꼭 알아야 할 내용을 담아냈다.
이 책에서는 먼저 AI 개념과 함께 AI의 간략한 개발 역사와 작동 원리에 대해 설명한다. ‘일반 인공지능’과 ‘좁은 인공지능’의 차이를 설명하고 AI 기술이 발전하며 개념 또한 변하고 있음을 알려 준다. AI 역사에서는 여성 개발자들을 조명하며 기술 분야에 대한 편견을 걷어낸다. 급변하는 AI 기술을 모두 알기는 어렵지만, 그 원리에 대해서는 알아둘 필요가 있다. 저자는, 기초 원리를 이해한다면 새로운 기술 개념을 받아들이기 훨씬 수월하다는 경험을 들어 독자를 안내한다. 유튜브의 추천 영상, 인스타그램의 맞춤형 광고, 문장 자동 완성 기능 등 생활 속에서 접할 수 있는 AI 기술을 예로 들어 설명해 쉽게 이해할 수 있다.
누군가 AI를 이용해 가짜 뉴스를 만들어 퍼뜨릴 수도 있고, 온라인에서 수집된 엄청난 양의 개인정보는 사생활 보호 문제와 연결될 수 있다. 많은 알고리즘은 온라인 접속에 중독되도록 설계되었고 오랜 시간 시청하면 세상을 보는 시각에 영향을 받을 수 있다. 저자는 두려움을 불러일으키는 것이 아니라, AI의 위험성을 예상하고 그 원인과 AI 전문가 공동체가 하고 있는 일들에 대해 이야기한다.
AI는 우리 삶을 긍정적으로 변화시킬 수 있는 가능성도 지니고 있다. AI를 활용하면 복잡한 업무를 효율적으로 해결하고 여유 시간을 창조적인 일이나 더 중요한 일에 쓸 수 있다. 기후 변화에 대한 해결책을 훨씬 쉽게 찾아낼 수도 있다. 질병 진단과 신약 개발 분야에서 AI를 이용하면 더 건강한 생활을 누릴 수 있고, 학교에서는 맞춤 학습을 제공해 학생의 성취도를 높여줄 수 있다.
청소년이 사회에 첫발을 내디딜 즈음에는 AI와 함께 일하는 것이 자연스러운 환경이 되어 있을 것이다. 집과 학교, 직장, 병원 등 곳곳에서 AI를 만나게 될 것이다. 우리에게 “가장 중요한 건 기술 변화에 대비할 수 있는 사고방식과 적절한 기술을 장착하는 것이다”. 이 책은 AI를 어떻게 이롭게 활용할 수 있을지 상상력을 자극하며 더 넓은 AI 세상으로 독자들을 안내한다.

상상력을 자극하는 직업 탐색 안내서
AI 사용자와 미래의 개발자를 위한 실용적인 조언

AI 시대에 컴퓨터 프로그래머나 공학자만 필요한 것은 아니다. 교육, 기술 컨설팅, 법, 문학 등 AI와 연관된 영역은 넓다. 저자는 『MIT 테크놀로지 리뷰』 저널리스트 캐런 하오를 비롯해 AI와 관련된 다양한 분야에서 활동하는 12명의 여성 인사들을 인터뷰했다.
영국 임페리얼칼리지 물리학자 제스 웨이드는 기술 분야의 성 편향을 해소하고자 STEM(과학, 기술, 공학, 수학) 과목을 대중에게 알리는 노력을 하고 있고, 킹스칼리지 교수 케이트 데블린은 사람이 기술에 반응하고 상호작용하는 방식을 연구하고 있다. 옥스퍼드대학교 교수 잔드라 바흐터는 기술 관련 법의 토대를 만드는 법조인 및 정책 입안자들을 연결하는, 학계에서는 보기 드문 역할을 하고 있다. 그 밖에 뷰티 플랫폼 기업가, 작가, 건강 데이터 과학 연구자도 만났다. 다양한 방식으로 AI와 연관된 일을 하고 있는 그들은 AI 기술에 끌려가기보다 AI 세상을 주도하며 좀더 나은 세상을 만들고 있는 사람들이다. 이 책을 통해 AI 세계에서 활동하고 있는 사람들로부터 AI 교육과 미래 직업에 대한 생생한 조언을 들을 수 있을 것이다.

더 나은 미래을 위해 AI에 대해 이야기하자
우리는 어떻게 AI 세상에 참여할 것인가

AI는 좋은 것도, 나쁜 것도 배울 수 있다. AI는 인간에게서 비롯된 수많은 데이터로 학습하기 때문이다. AI 세상을 몇몇 사람의 손에 맡긴다면 AI가 사회의 차별과 편견을 그대로 학습할 수 있다는 위기의식에서 출발한 이 책은 데이터의 편향성에서 비롯될 수 있는 위험성과 원인, 우리가 할 수 있는 일에 대해 다룬다. 기술 분야의 많은 부분을 남성이 차지하고 있다는 것은 익숙한 사실이다. 비단 성별뿐 아니라 나이나 소득으로 인해 새로운 기술에서 소외되는 사람들이 생긴다면 삶의 질에도 격차가 생길 수밖에 없다. 여성을 포함해 각계각층의 사람이 새로운 세상에 적응하고 참여해야 하는 이유가 여기에 있다.
이 책은 단지 지식을 아는 것에 머물지 않고 행동으로 실천할 수 있도록 돕는다. 저자는 AI에 관해 함께 공부하고 서로 내용을 공유하며 더 많은 자료와 책을 찾아볼 수 있도록 활동 지침과 권장 도서를 실었다. 이제 스스로 AI에 대해 질문을 던지고 함께 이야기해보자.

작가정보

저자(글) 타비타 골드스타우브

abitha Goldstaub 영국 정부의 AI자문위원회 회장. 영국의 대표적인 기술 지식 네트워크 코그니션X(Cognition X)의 공동 창립자이기도 하다. 코그니션X는 새롭게 개발되고 있는 AI 기술을 기업에 연결해주는 플랫폼으로 매년 각계각층 최고의 연사들을 초청해 페스티벌을 개최한다. 런던 예술대학교에서 그래픽디자인 및 광고 학사 학위를 취득했으며, 1억 명이 넘는 팔로워를 보유한 디지털 광고 및 기술 서비스 회사 브레이브바이슨(Brave Bison)의 전신인 라이트스터(Rightster)를 설립했다.
AI의 영향력에 대해 전문가인 그녀는 일상생활에서 AI를 사용함으로써 AI에 잠재하는 윤리적 문제에 대한 해결책을 찾을 수 있다고 믿으며, AI 윤리위원회와 규제가 필요하다고 주장한다. 기술 분야에서의 여성 활동을 지원하기 위해 ‘와이 위민 인 AI(Why Women in AI)’, ‘퓨처 걸 코퍼레이션(Future Girl Corp.)’이라는 모임을 만들었다. 2018년 영국의 여성공학회(Women's Engineering Society)에서 ‘공학자는 아니지만 공학과 응용과학 분야에 다양성을 증진하는 데 지대한 공헌을 한 개인’에게 주는 에이미 존슨 통찰력 상(Amy Johnson Inspiration Award)을 받았다.

번역 김소정

대학교에서 생물학을 전공했고, 과학과 소설 분야의 책을 주로 번역하고 있다. 옮긴 책으로는 『원더풀 사이언스』 『길 위의 수학자』 『마음의 상처로 죽을 수도 있을까』 『중력에 대한 거의 모든 것』 『비비안 마이어』 등이 있다.