AI, 차별, 소통

석주연 지음

커뮤니케이션북스 2025년 02월 21일 출간 국내도서 : 2025년 02월 21일 출간

작품소개

책소개

이 책은 AI가 인간과의 소통에서 차별을 일으킬 가능성과 그 영향을 탐구한다. AI는 인간의 편향이 반영된 데이터를 바탕으로 작동하며, 이는 사회적, 문화적 차별을 증폭시킬 수 있다. 책은 AI의 차별적 결과를 분석하고, 이를 해결하기 위한 노력과 인간의 존엄성을 지키는 방법을 제시한다. AI와 인간의 공존을 위해서는 성찰적 접근과 다양성, 포용성을 반영한 AI 설계가 필요함을 강조한다.

목차

차별받지 않는 인간을 위한 AI

01 차별적 AI와 인간
02 AI와의 소통과 차별
03 AI와의 대화 유형과 차별
04 차별적 AI와 보이나 보이지 않는 소통
05 차별적 AI와 편향성
06 인간 대 AI의 소통 전형성과 미세차별
07 차별적 AI와 소통 문화의 지역성·역사성
08 반어·완곡어법·농담·은어의 소통 문화와 차별적 AI
09 차별적 AI와 차별 제어의 영향들
10 차별하지 않을 이유, AI에게서 찾다

책 속으로

소통의 맥락은 전반적으로 교차적이고 복합적이다. 차별이 나타나는 것도 바로 그 지점이다. 그리고 이것이 우리가 살고 있는 세상이며 AI가 담고 있는 세상이다. 돈 많고 외모도 출중한 여배우의 경우는 때로는 차별 대상이 우리에게도 AI에게도 확정적이지 않음을 보여 준다.
AI의 기능이 놀라울 정도로 향상돼 최대한 인간 세상을 잘 사상(寫像)해 낸다 해도 특히 차별에 관한 한 바로 그 인간 세계의 불완전성 때문에 AI는 우리가 기대하는 만큼의 공정성과 합리성을 구현해 내지 못할 가능성이 크다.
－01_“차별적 AI와 인간” 중에서

인간의 소통 문화는 가시성을 띠기도 하지만 비가시적이기도 하며 차별이 드러나는 비가시적 소통 문화는 은폐되기 쉽다. 아울러 생성형 AI의 유창성이 차별 관련 소통 문화에 갖는 함의를 생각해 본다. 특히 생성형 AI는 출력 시 확률적 계산에 의해 문장 내 단어가 다른 단어와 맺는 관계에 따라 특정 단어가 선택되는가 하면 이전의 출력 결과물이 다음의 입력값으로 사용된다.
－04_“차별적 AI와 보이나 보이지 않는 소통” 중에서

미세차별(microaggression)은 micro와 aggression이 결합되어 만들어진 합성어이며, 2015년 『옥스퍼드 영어사전(Oxford English Dictionary)』에도 등재되었다. 말 그대로 미세하지만 공격적인 차별을 말한다(Sue D. W, 2010). 일상적으로 흡입하는 미세먼지와도 같아서 사람에 따라서는 ‘먼지차별’이라 부르기도 한다.
미세차별엔 의도성이 꼭 수반되지도 않는다. 상대가 의도적으로 한 말이나 행동이 아니어도 당사자가 모멸감을 느끼면 미세차별에 해당할 수 있다(BBC 뉴스 코리아, 2018. 4.20).
－06_“인간 대 AI의 소통 전형성과 미세차별” 중에서

차별은 드러나지 않는 경향이 다분히 있다. 왜냐하면 차별당하는 사람은 더 큰 상처, 때로는 더 큰 불이익을 받을 우려 때문에 차별당한 사실을 드러내지 않는다는 특성을 가지기 때문이다. 차별하는 사람은 당연히 본인의 잘못을 드러내고 싶어 하지 않기에 차별을 감춘다. 의식조차 하지 못하는 사이에 때로는 음성언어로, 때로는 몸짓언어로 누군가를 차별하고 누군가에게 차별을 당하는 사례가 비일비재하다.
합리성으로 포장된 AI에 의한 차별은 그 은폐성을 더욱 가속화하거나 정당화할 우려가 크다. AI의 데이터 축적과 알고리즘의 어떤 측면이 은폐된 차별을 더욱 가속화할지 정확히 모르는 현 상황에서 말이다. 오히려 AI의 놀라운 계산 성능, 인간의 언어를 음성으로든 몸짓으로든 유려하게 모방하는 장점이 때로는 그 은폐성을 가려 인간을 매우 헷갈리게 만든다.
－10_“차별하지 않을 이유, AI에게서 찾다 ” 중에서

출판사 서평

AI와 차별: 인간과 AI 소통의 새로운 도전
이 책은 AI가 인간과의 소통에서 차별을 일으킬 가능성에 대해 깊이 탐구한다. AI는 인간의 속성과 욕망이 반영된 데이터를 바탕으로 작동하는데, 이는 종종 차별적인 결과를 낳을 수 있다. 특히, AI는 기존 데이터에서 발생한 편향을 그대로 반영하여 인간 사이에서 발생하는 차별을 재생산할 수 있으며, 이는 다양한 사회적, 문화적 맥락에서 문제가 될 수 있다. 예를 들어, MZ 세대의 SNS 추천 알고리즘을 통한 데이트 상대 결정처럼 AI가 인간의 관계에 깊숙이 영향을 미치는 상황은 점차 일상화되고 있다.
책에서는 차별적 AI의 문제를 해결하려는 노력과 함께, AI가 인간의 존엄성과 소통을 위협할 수 있는 가능성을 경고한다. AI의 출력이 인간의 텍스트와 유사하더라도, 그것이 항상 정확하거나 공정한 것이 아님을 지적하며, AI의 구조적 특성과 그에 의한 차별적 소통을 분석한다. 또한, AI가 특정 사회적 배경과 문화적 맥락을 고려하지 못하는 문제를 지적하고, 이에 대한 해결책으로 AI가 설계될 때 더 많은 다양성과 포용성을 반영해야 함을 강조한다.
각 장은 AI의 차별 문제를 다양한 각도에서 살펴본다. 첫 번째 장에서는 한국 사회에서 AI에 대한 막연한 기대와 그로 인한 차별적 소통 문제를 다룬다. 두 번째 장부터 네 번째 장까지는 생성형 AI의 텍스트 생성 방식과 그로 인한 차별적 결과를 심층적으로 분석한다. 특히, 챗GPT와 같은 생성형 AI의 한국어 차별 문제를 중심으로 차별적 패턴을 탐구하며, AI의 작동 방식이 어떻게 차별을 증폭시킬 수 있는지를 살펴본다.
또한, AI의 편향성을 해결하기 위한 다양한 접근법도 소개된다. 예를 들어, 휴먼 피드백 강화 학습(RLHF)과 같은 기법을 통해 AI가 점차적으로 차별 문제를 개선하려는 노력과 함께, 문화적, 언어적 다양성을 고려한 AI 설계의 필요성을 강조한다. 그러나 이러한 노력에도 불구하고, AI가 생성하는 텍스트나 데이터의 출처가 불분명하고, 미세한 차별이 여전히 존재할 가능성이 있음을 지적한다.
마지막으로, 책은 AI와 인간의 협력적 공존을 위한 길을 모색한다. AI가 인간 사회에서 차별을 강화하는 것이 아니라, 오히려 인간의 다양성과 포용성을 반영하는 방향으로 발전해야 한다는 메시지를 전달한다. AI의 효율성에 눈이 멀어 AI의 본질적인 한계를 간과하는 태도를 경계하고, 성찰적인 접근을 통해 차별 없는 미래의 AI와 인간의 공존을 이루기 위한 방향을 제시한다.
이 책은 AI의 발전과 차별 문제에 대한 인식과 해결 방안을 모색하며, 기술 발전이 인간의 존엄성을 위협하지 않도록 지속적인 성찰과 개선이 필요함을 강조한다.

작가정보

저자(글) 석주연

조선대학교 국어교육과 교수로 재직 중이며 사범대학장·교육대학원장·교육연수원장 등을 역임했다. 서울대학교 국어교육과에서 학사를, 서울대학교 국어국문학과에서 석박사 학위를 취득했다. 한국어의 역사를 대학원에서 공부하고 영국의 런던대학교(SOAS, The University of London), 서울대학교 등에서 강의했으며 대영도서관(The British Library)과 케임브리지대학교(University of Cambridge) 클레어홀(Clarehall) 칼리지를 방문해 펠로(fellow)로서 연구를 수행했다. 한국어사, 외국어로서의 한국어 교육, 한국어 학습자와 이주민의 언어와 소통, AI 시대 한국어 의사소통 등의 영역에 걸쳐 연구 논문과 저서들을 써 왔다. 이 책의 관련 논문으로는 “지능형 동영상 제작을 위한 감성어휘 확장”, “인공지능 시대 교사의 역할: 국어교사의 직무 사례를 중심으로”, “고려인의 코드전환과 의사소통 전략 연구”, “다문화 시대 한국어 의사소통과 인공지능: 차별 배제와 공정 지향에 대한 인식을 중심으로”, “다문화 교육 현장에서의 비언어적 신체 한국어의 습득 양상 연구: 결혼이주여성의 경우를 중심으로”, “한국어 언어문화교육의 자리매김을 위한 일고찰”, “한국어교육에서의 문형교육의 방향에 대한 일고찰”, “메타버스의 특수 목적 한국어교육에서의 탐색적 적용 연구” 등이 있고, 저서로 『노걸대와 박통사의 언어』, 『한국어교사와 한국어교육』, 『언어라는 세계: 우리가 모르는 우리말 이야기』 등이 있다.