AI, 편견을 넘다

이건명 , 배순민 , 강정한 , 곽진선 , 권오성 , 김지희 , 안현실 , 이상욱 , 이혜숙 , 조원영 지음

롤러코스터 2024년 12월 31일 출간 국내도서 : 2025년 02월 18일 출간

작품소개

책소개

AI의 놀라운 발전은 그 어느 때보다 인류의 삶을 급속히 변화시키며 AI 없는 미래는 상상할 수조차 없게 만들고 있다. 하지만 우리가 감탄하고 놀라워하는 한편으로 AI가 제공하는 편향된 지식과 정보가 심각한 사회문제로 떠오르고 있다. 나날이 그 폐해가 커져감에도, 그에 대한 대비는 미흡하다는 사실에 공감한 산학연 전문가들이 한자리에 모였다. 이들은 모두 AI가 불러오는 사회변화를 가장 먼저 감지하고 새로운 생태계를 만들어가는 최전선에서 활동하는 전문가들로, 각자의 분야에 맞는 전문적이면서도 현실적인 통찰과 제안을 해주었다. AI 기술이 왜 편향성을 드러내는지 그 원인을 진단하고, 사회 각 분야에는 어떤 영향을 미치는지 평가한 다음, 기술이 가져다주는 혜택을 모두가 함께 누리기 위해서는 어떻게 나아가야 하는지 그 방향을 제시한다. 전례 없이 빠른 속도로 발전하는 AI 기술이기에, 그 발전 속도에서 배제되는 개인이나 계층은 사회에서 소외되거나 도태될 가능성이 크다. 이는 단순히 사회적 갈등의 골이 깊어지는 수준에만 머물지 않을 것이다. 따라서 AI 기술발전이 가져올 고통과 재앙의 가능성을 이야기하는 이 책을 읽는 것은 오픈AI에서 내건 기치인 ‘AI 기술의 민주화’를 다시금 생각해보는 기회가 될 것이다.

목차

머리말
프롤로그 _인간 중심의 AI 생태계를 위하여
1 생성형 AI 기술 발전은 접근성 강화의 기회다
2 AI 기술의 가능성은 익숙한 것과의 결별로부터
3 다양성을 위한 AI, 넘어야 할 과제들
4 AI 다양성 관점에서 혁신 전략을 묻다
5 지속 가능한 AI 다양성을 위한 체크리스트
6 AI 시대는 어떤 학문과 인재를 원하는가
7 AI 혁신을 촉진하는 다양성과 포용성
8 세상을 바꾸는 AI, 오늘 마주한 질문과 우려
9 편향과 선입견을 넘어 AI의 미래를 준비하다
참고문헌

책 속으로

접근성은 불편함 없이 환경을 이용할 수 있는 정도를 말하는데, 시설, 교통, 제품, 서비스 등을 포함하며, 배리어프리라고도 합니다. 장애가 있든 없든, 크거나 작거나, 특정 분야에 국한되지 않고 누구나 동일하게 모든 것에 접근할 수 있어야 합니다. 교육, 소셜미디어, 건물, 공원, 고용 등 모든 면에서 접근성이 보장돼야 합니다. 접근성 개념은 포용적 디자인을 기반으로 삼지만, AI를 활용하면 새로운 가능성과 도전이 함께 열립니다. 또한 접근성은 혁신의 주요 동인이기도 하죠. 모든 사람에게 유익한 새로운 기술, 제품, 서비스의 개발을 촉진하고 대중화를 이끕니다. _ 27~28쪽

인공지능은 근본적으로 사람이 처리하는 일을 자동화하려는 기술이므로, 실제를 그대로 반영하는 것이 목표입니다. 사람이 편견과 고정관념을 안고 행동한다면 AI 프로그램도 마찬가지로 편견과 고정관념을 반영해서 판단하고 일을 처리하도록 개발됩니다. 머신러닝으로 AI 프로그램을 개발할 때, 되도록 모든 사용자 집단과 관련된 데이터를 대거 수집해서 사용하려고 노력합니다. 그렇긴 해도 수집된 데이터가 모든 상황을 대표한다는 장담도, 머신러닝 알고리즘이 완전한 AI 모델을 만들어낸다는 보장도 할 수 없습니다. 그래서 AI 프로그램이 항상 옳은 판단을 내리고 동작한다고 자신할 수도 없습니다. _ 82쪽

변화의 바람이 불어닥칠 때면 언제나 기존 시스템과 충돌했습니다. 어떤 기술도 등장할 때 리스크 또는 저항에 부딪히지 않은 적이 없습니다. 기존 상식으로 보면 변화는 비상식적인 일입니다. 즉, ‘게임 체인지’는 ‘비상식’을 ‘상식’으로 바꾼다는 얘기죠. 여기서 ‘비상식의 상식화’로 가는 문은 다양성이 존중될 때 비로소 열릴 수 있다는 점이 중요합니다. _ 120쪽

진정성 있는 정보는 기계학습의 과다양성 딜레마도 줄여줄 수 있습니다. 악의적인 데이터가 감소하면 다양성을 의식적으로 고려해서 학습할 필요성도 작아집니다. 무엇보다도 진정성 있는 데이터가 공감 폭을 넓히면 다양한 정체성을 겨냥한 편견이나 혐오가 담긴 데이터가 차츰 줄어들 테고, 생성형 AI가 학습하는 자료도 양질의 데이터가 되어 자연스럽게 다양성을 구현할 가능성이 높아질 것입니다. _ 168쪽

하지만 이런 양적 성과에 머물지 않고 한 단계 더 높은 미래로 발돋움하기 위해서는 인재의 질적 성장이 있어야 합니다. 지금껏 이룬 성과를 뒤로하고 교육 본질부터 고민해야 하는 노력이 또 한 번 필요하다는 뜻입니다. 사회는 끊임없이 변화하고 인류도 계속 진화해왔습니다. AI 기술로 앞당겨진 미래는 인재 양성 패러다임을 바꿔가는 중이고, 분명 여기에는 많은 노력과 시간이 들 것입니다. 하지만 질주하는 기술혁신 속에서 인간이 방향을 잃지 않고 나아가기 위해서는 인재 양성을 위한 성찰과 도전이 반드시 뒷받침돼야 합니다. _ 194쪽

AI 기술을 바라보며 국제사회가 장밋빛 전망만을 내놓는 것은 아닙니다. 국제연합은 2024년 9월 발간한 보고서 〈Mind the AI Divide〉에서 AI 기술이 가져올 여러 가지 잠재적 혜택에 주목하면서도, 특정 국가 안에서 인공지능 활용 능력이 제각각인 사람들 사이에서, 그리고 AI 기술 역량이 서로 다른 국가들 사이에서 ‘격차’가 발생하고 그 때문에 기존 개인 단위 소득 불균형이나 국가 수준의 경제적 종속이 더욱 심각해질 수 있다고 지적합니다. 이런 의미에서 국제연합은 ‘AI 격차’와 그 부작용을 줄이기 위해 선제적으로 대응책을 마련해야 한다고 주문합니다. _ 216쪽

출판사 서평

AI가 편견을 뛰어넘어 공정성을 실현할 수 있을까?

정신을 차리고 보니 어느새 우리 곁에 도래한 이 AI 시대에 인공지능이 편견에 사로잡혀 편향성을 드러낸다면 어떤 일이 벌어질까. 그 편견을 방치해도 문제, 바로잡으려는 의도를 담아도 오류가 나올 수 있는 지금 기술 단계에서 인공지능이 마주한 공정성과 투명성 문제를 각기 다른 측면에서 바라보고 엮어낸 9가지 시선을 소개한다.
2016년 구글 딥마인드의 알파고가 서울에서 프로기사 이세돌과 바둑 대국을 펼치고 이겼을 때 그 충격과 파장은 미디어를 타고 전 세계로 퍼져나갔다. 하지만 이 사건은 사람들 머릿속에 인공지능이라는 낯선 용어를 각인시키는 계기가 됐을 뿐, 세간의 관심을 꾸준히 끌고 가지는 못했다. 그러다 오픈AI에서 출시한 ChatGPT가 폭발적인 성공을 거두고 선풍적인 인기를 끌면서, 인공지능은 유례없이 빠른 속도로 우리 일상 구석구석까지 파고들고 있다. 이런 추세라면 가까운 시일 안에 우리 사회 모든 영역에서 전반적 혹은 부분적으로 AI 기술을 도입하게 될 것이라는 연구보고서도 나왔다.
그만큼 이제 인공지능, 특히 생성형 AI는 우리가 내리는 의사결정에 무시할 수 없는 영향력을 발휘하는데, 이때 인공지능이 다양한 사용자를 상대로 드러내는 편향이 심각한 사회문제로 떠오르고 있다. 이에 한국과학기술젠더혁신센터(GISTeR)는 그 폐해가 심각한데 대비는 미흡하다는 점에 공감하는 산학연 전문가들과 함께 모여 대책을 논의하고 포럼을 열어 발표한 자료를 묶어 이 한 권의 책으로 펴냈다. 여기에 참여한 여러 전문가들의 통찰에는 AI 생태계를 한층 더 포용적으로 변화시켜보자는 염원이 담겨 있다. 이들이 한목소리로 외치는 키워드는 바로 다양성이다.

AI는 왜 편견에 사로잡혀 편향성을 드러낼까?

AI가 일부러 그렇게 행동하려고 마음을 먹어서는 아니다. 적어도 당분간은 아무리 뛰어난 AI라 하더라도 인간과 똑같은 감정적 경험을 누릴 수는 없다고 판단되기 때문이다. 인간이 편견이나 고정관념에 따라 판단을 내리면 편향되기 마련이어서 누군가는 차별받듯, AI 알고리즘도 그럴 수밖에 없다.
생성형 AI는 지시나 질문이 입력되면 거기에 대응해서 새로운 콘텐츠를 만들어내는 기술인데, 이때 인간처럼 다양한 내용을 이해하고 문제를 해결하려면 훈련용 데이터를 대규모로 사용해서 학습해야 한다. 그런데 이 데이터에 편향이 끼어들면 AI가 그대로 학습해서 편향된 결과를 생성하는 것이다. 학습 데이터가 편향에 물드는 이유로는 몇 가지가 있다. 학습 데이터도 사람이 만들어내는 자료인 만큼 그 자체에 편향이 존재할 수밖에 없고, 특정 환경이나 조건을 설정해서 데이터를 수집하면 그 범위 안에 갇혀서 다양성을 잃는다. 또한 AI 시스템을 설계하고 운영하는 사람들이 의식적으로나 무의식적으로 자신들의 의도를 시스템에 반용할 때도 편향을 피할 수 없다. 그러다 보면 AI 성능이 떨어지는 결과를 가져오는데, 과적합 현상이 나타난다든지 과소표현 된 집단에 대한 오류가 빈발해서, 끝내는 폐기되는 수순을 밟기도 한다. 문제는 여기서 그치지 않는다는 데 있다.

AI에 깃든 편견을 다양성으로 해소할 수 있을까?

누가 뭐라 해도 지금 가장 핫한 기술인 AI를 두고 전 세계 모든 국가가 기대와 우려를 동시에 드러내는 실정이다. 장밋빛 전망과 어두운 그림자가 공존하는 기술의 속성 때문이다. AI가 국가 간 경쟁력을 좌우하는 핵심 기술로 떠올랐기에 AI 패권을 둘러싸고 새로운 국제 질서가 재편될 가능성이 있고, AI가 가져다주는 경제적 혜택이 모든 국가와 계층에 고루 돌아가지 않으면서 경제 격차가 기술 격차를 낳고 다시 기술 격차가 경제 격차를 벌려놓을 수도 있다. AI 알고리즘이 데이터에 포함된 문화를 반영해서 사회적 약자와 소수자를 상대로 차별을 조장하거나 부추길 수도 있거니와, 개인의 자유와 권리를 침해하며 감시사회로 나아갈 수도 있다. 이미 그런 사례가 있다. 더불어 환경을 파괴할 우려도 있고, 법률문제가 불거질 수도 있다.
이런 문제를 해결하기 위해 연구자들은 AI 다양성을 확보해야 한다고 강조한다. 여기에 형평성과 포용성까지 함께 묶는데, 그래야만 다양성 가치가 제대로 발휘되기 때문이다. 그렇다면 인공지능에게 어느 수준까지 다양성을 요구해야 할까? 모든 층위까지 다 아울러야 한다면 그것이 기술적으로 가능한지도 물어야 한다. 또한 다양성을 실현하는 데 따르는 기회비용은 무엇이며, 다양성을 위한 사회적 합의를 끌어내기는 쉬운지, 더 나아가 다양성을 추구한다고 해서 반드시 의도한 결과가 보장되는지도 살펴봐야 할 과제로 남는다. 이런 노력에 발맞춰, 기술혁신 주체가 변화하는 추세에 따라 ‘많이 시도하고 빨리 실패하며’ 성장해나가는 사회 여건을 조성하고, 따로 또 같이의 가치를 존중하며 혁신의 다양성, 혁신 주체의 다양성도 추구해야 한다.

AI 다양성이 지속 가능하려면 무엇을 체크해야 할까?

모든 기술이 그렇듯, 기술과 접근성 사이 격차를 줄여야 한다. 접근성이란 불편함 없이 환경을 이용할 수 있는 정도를 말하는데, 혁신을 이끄는 주요 동력 중 하나이기도 하다. 장애인의 접근성을 높이는 AI의 잠재력에 주목하는 이유도 그래서다. 우리는 누구나 장기간 혹은 일시적으로 어떤 측면에서든 장애를 경험하거나 취약해질 수 있다. 따라서 장애인과 취약계층이 자유로이 이용할 수 있는 기술이라면 모든 이에게 장벽이 가장 낮은 도구라 할 만하다.
AI 다양성을 통해 이런 일이 실현되려면 AI 기술에 참여하는 과학자의 다양성이 먼저 갖춰져야 한다. 사람은 관심이 있는 주제에 호기심을 보이기 마련이어서, 비슷한 부류들 사이에서는 자칫 편향되기 쉽다. 나이, 성별, 인종, 출신배경, 경력 등이 다채로운 사람들이 모여야만 서로 간에 공감이 싹트고 서사가 생기면서 진정성이 묻어나와, 진정한 의미에서 다양성을 끌어올릴 수 있다.
이렇게 다양성을 추구하는 환경에서는 AI에 연계되는 지식과 학문도 경계가 무너지며 융합되는 추세로 나아간다. 따라서 이런 시대에 걸맞은 인재를 키워내는 교육체계도 달라져야 한다. 한 사람이 그 모든 지식을 다 습득할 수는 없기에 국면을 읽고 시의적절하게 제반 조건을 절충하는 시야를 갖추어야 하기 때문이다. 다양성을 추구하는 일은 이토록 어렵고 까다롭지만, 기술혁신이 가져다주는 혜택을 함께 누리며 좀 더 나은 사회로 나아가는 한 갈래 길이 될 수 있다.

작가정보

저자(글) 이건명

KAIST 전산학과 졸업 후, 동 대학 대학원에서 인공지능 분야로 석사 및 박사학위를 받았다. 프랑스 INSA Lyon 박사후 연구원, 미국 실리콘밸리 PSI사 연구원, 콜로라도대학교 덴버캠퍼스 객원교수를 지냈으며, 현재 충북대학교 소프웨어학부 교수로 있다. 《인공지능》 《응용이 보이는 선형대수학》 등의 책을 썼다.

저자(글) 배순민

매사추세츠공대MIT에서 전기전자컴퓨터공학 석·박사학위를 취득하고, 네이버 클로바 AI리더, 삼성/한화 테크윈 로봇사업부 AI개발팀장을 지냈다. 현재는 KT AI Future Lab 랩장으로 일하면서 KAIST 문화기술대학원 겸직교수로 학생들을 만나고 있다.

저자(글) 강정한

서울대학교 수학과를 졸업한 뒤 동 대학 대학원 사회학과에서 석사학위를 받고, 시카고대학교에서 사회학 박사학위를 받았다. 코넬대학교 사회학과 박사후 연구원을 지낸 후, 현재 연세대학교 사회학과 교수로 재직 중이다. 《디지털 사회를 생각한다》 《서울의 미래세대》(이상 공저)를 썼다.

저자(글) 곽진선

제4차 과학기술인재 육성지원 기본계획 자문위원(2020), 대통령 직속 국민통합위원회 과학기술과의 동행 특위 위원(2024)을 역임했고, 현재는 국가과학기술인력개발원 인재교육본부 연구위원, 한국기술혁신학회 인재개발정책연구회장, 한국여성과학기술단체총연합회 정책위원회 부회장 등으로 활동 중이다.

저자(글) 권오성

KAIST 전기·전산학부에서 소프트웨어공학 석사학위를 받고, 건국대학교 산업경영융합학부에서 경영공학 박사학위를 받았다. IBM Korea K-Lab연구소 및 소프트웨어 그룹 본부를 거쳐, 현재 Microsoft Innovation Hub 총괄, 건국대학교 겸임교수를 맡고 있다.

저자(글) 김지희

서울대학교 계산통계학과 인공지능 전공 석사, 서던캘리포니아대학교(USC) 컴퓨터공학 박사학위를 받았다. 삼성전자 AI랩장, KT 미래기술연구소 소장을 거쳐 현재 동국대학교 AI소프트웨어융합학부 교수로 재직 중이다. 한국인 최초로 미국인공지능진흥협회(AAAI) Councilor에 선출된 바 있다.(2022-2025)

저자(글) 안현실

서울대학교 경제학과를 졸업하고 KAIST에서 경영과학 박사학위를 받았다. 〈한국경제신문〉에서 AI경제연구소장과 논설·전문위원을 지냈고, 지금은 울산과학기술원UNIST 연구부총장으로 재직 중이다. 옮긴 책으로 《부의 기원》 《좋은 경제학 나쁜 경제학》(이상 공역) 등이 있다.

저자(글) 이상욱

서울대학교에서 물리학 학사 및 석사학위를 받고 런던대학교LSE에서 철학 박사학위를 받았다. 현재 한양대학교 인문과학대학 철학과 & 인공지능학과 교수로 재직 중이며, 유네스코 세계과학기술윤리위원회(COMEST) 위원(2018-2025)으로도 활동하고 있다.

저자(글) 이혜숙

1978년 캐나다 퀸스대학교에서 박사학위를 받았다. 국가과학기술위원회 자문위원, 한국여성과학기술단체총연합회 회장을 맡은 바 있으며, 현재는 (재)한국과학기술젠더혁신센터 소장, 이화여자대학교 수학과 명예교수로 재직 중이다.

저자(글) 조원영

서강대학교에서 경제학 학사, KAIST에서 경영학 석사 및 박사학위를 받았다. 삼성경제연구소 수석연구원 등을 거쳐 현재 소프트웨어정책연구소 SW기반정책·인재연구실 실장, 과학기술정보통신부 디지털인재얼라이언스 정책지원분과 분과장 등으로 일하고 있다. 《AI와 사회 변화》 《플랫폼, 경영을 바꾸다》(이상 공저) 등의 책을 썼다.