AI 시대의 개인정보 처리

이민영 지음

커뮤니케이션북스 2025년 03월 21일 출간 국내도서 : 2025년 03월 21일 출간

작품소개

책소개

AI 알고리즘의 불투명성은 데이터 오·남용과 차별적 의사 결정을 초래할 수 있다. 신용평가, 채용, 범죄 예측 등에서 알고리즘 편향성이 문제가 되지만, 이를 통제할 규제는 부족하다. 이 책은 AI 시대의 개인정보 보호법과 윤리적 기준을 살펴보며, 기술 발전과 개인정보 보호 사이의 균형을 모색한다.

목차

AI, 데이터 처리의 효용과 위험

01 데이터의 가치와 개인정보
02 AI와 개인정보 자기 결정권
03 AI와 「개인정보보호법」
04 알고리즘 규제와 데이터
05 프로파일링과 개인정보
06 딥페이크와 프라이버시
07 생체 인식과 개인정보
08 AI와 개인 위치 정보
09 정보 주체의 대응권
10 AI와 정보 보호

책 속으로

비유컨대, 워터 파크 이용 계약을 개인정보 처리와 비교할 수 있다. 개인은 자신의 신발과 옷을 운영자가 관리하는 보관함에 담아 두게 되는데, 운영자는 개인 소지품의 구별을 위해 개인을 인식할 수 있도록 보관함에 고유 번호를 사전에 부여한다. 보관함의 물건은 개인 소유지만, 운영자가 안전하게 관리해야 한다. 보관함의 고유 번호 자체로 내용물이 드러나고 개인이 특정되지는 않지만, 운영자는 관리상 필요한 마스터키를 통해 개인을 식별할 수 있다. 운영자가 관리 책임을 벗어나 고객 물품을 거래하여 불법 유통하면 안 되지만, 무형의 개인정보는 물리적으로 점유가 이전되지 않는다. 이 경우 개인 소지품은 데이터에 해당하지만 개인을 식별할 수 있는 개인정보라고 볼 수는 없다.
－01_“데이터의 가치와 개인정보” 중에서

공개된 개인정보에 대하여 “개인정보 처리자가 정보 주체 이외로부터 수집한 개인정보를 처리하는 때에는 정보 주체의 요구가 있으면 즉시 다음 각 호의 모든 사항을 정보 주체에게 알려야 한다.”라는 개인정보법 제20조제1항을 적용할 때 ‘정보 주체 이외로부터 수집한 개인정보’에 대한 정보 주체의 수집 동의는 실익을 갖지 못한다. 그렇지만 동의 획득이 아닌 다른 적법 요건인 개인정보법 제15조 제1항 제2호에서 제6호까지는 동의를 얻는 경우가 아니지만 이에 준하는 경우다. 그래서 이들 경우에도 개인정보를 수집하거나 그 수집 목적의 범위에서 개인정보를 이용할 수 있다. 이러한 처리 대상인 개인정보에 문언상 공개된 개인정보와 같이 정보 주체 이외로부터 수집한 개인정보가 배제되는 사항이 아니다. 개인정보법 제15조 제1항 제2항에 따라 정보 주체에게 법정사항 네 가지를 고지하고 동의를 얻지 않는 경우라도 그 수집·이용에 대한 제재가 없음은 공개된 개인정보의 통지와 비교된다.
－03_“AI와 「개인정보보호법」” 중에서

‘프라이버시 패러독스(privacy paradox)’는 AI로 인한 사회적 편익과 개인 프라이버시 권리의 잠재적 침식 사이에서 생기는 저항감과 긴장 관계의 역설적 구조를 뜻한다. AI 기술은 다양한 개인정보를 분석해 사회적·경제적 이익을 창출하지만, 데이터 처리 과정에서 개인의 프라이버시가 침해될 수 있기 때문이다. 공개된 데이터의 불명확한 소유권과 동의 없는 수집·이용은 개인정보의 무단 사용과 개인 감시 문제를 악화할 수 있다. 이용자로서는 AI 서비스의 효용에도 불구하고 개인정보의 노출·추적·저장 등이 악순환될 수 있음을 우려한다. 제공자의 경우 AI 서비스의 가치 창출을 위해 개인정보가 필수적이어서 이용자에게 더 많은 개인정보를 요구해야 한다. 여기서 저항적 긴장 상태가 유발된다.
－06_“딥페이크와 프라이버시” 중에서

그런데 AI가 고도의 자율성을 기술적으로 형성하고 있지만 실질적인 예측이나 통제가 어려울 뿐만 아니라 AI에 의한 특정된 결정은 알고리즘의 적용으로 구현되는 결과에 불과하다는 견해도 간과할 수 없다. AI의 자율성은 개발자의 설계와 사용자의 설정에 기초한 추정된 의사의 표시이고 임의적 자발성이 없으므로 AI에 대한 독립적이고 포괄적인 법인격의 전면적 인정은 오히려 AI 기술 사용자의 책임 회피로 귀결될 수 있기 때문이다. 반면 인간의 자유의사에 기초한 책임 귀속이 아니라 형사 책임 비난은 사회적 요구와 기대를 행위자가 충족하지 못한 결과에 대한 사회적 비난으로 이해하는 행위 책임론을 주목해야 한다.
－09_“정보 주체의 대응권” 중에서

출판사 서평

AI 시대, 개인정보 보호는 가능한가
AI는 특정인을 식별할 수 있는 데이터를 수집하고 분석하며, 이는 사생활 보호와 관련한 윤리적·법적 문제를 야기한다. 개인정보가 무분별하게 수집되거나 악용될 경우, 감시 사회로의 전락과 개인의 자유 침해라는 심각한 결과를 초래할 수 있다. 히 AI 알고리즘의 불투명성은 개인정보 보호를 더욱 어렵게 만든다. AI가 어떤 기준으로 데이터를 수집하고 처리하는지 명확하지 않으면, 데이터 오·남용과 차별적 의사 결정의 가능성이 높아진다. 예를 들어, AI가 신용평가, 채용, 범죄 예측 등에 활용될 경우 알고리즘의 편향성은 특정 집단에 불이익을 줄 수 있다. 하지만 이런 문제를 해결하기 위한 규제와 통제는 기술 발전 속도를 따라가지 못하고 있다. I 시대의 개인정보 보호는 단순한 기술적 문제를 넘어선다. 개인의 자기 결정권을 보장하면서도 AI 기술을 효과적으로 활용할 수 있는 균형이 필요하다.
이 책은 개인정보 보호법과 AI 기술의 관계를 조명하며, 개인정보 침해를 막기 위한 법적·윤리적 기준을 탐색한다. AI가 개인정보를 다루는 방식에 대한 명확한 기준이 마련되지 않는다면, 우리는 예측할 수 없는 위험 속에서 살아가게 될 것이다.

작가정보

저자(글) 이민영

가톨릭대학교 법학과 교수다. 성균관대학교 법학과에서 학·석사 과정을 거쳐 “정보매체의 규제법리에 관한 연구”로 법학박사 학위를 받았다. “미국 AI 행정명령의 라벨링에 관한 연구”(2024), “AI콘텐츠 표시 입법동향과 그 시사점”(2024), “법집행 목적의 안면인식정보 처리에 관한 법제 연구”(2023), “지능형 안면인식기술로 처리되는 개인영상정보의 규율에 관한 법제연구”(2023), “지능형 CCTV 운용에 따른 개인영상정보 보호의 쟁점”(2022), “전자청원의 제도적 현황과 규범적 현안”(2021), “「개인정보보호법」에 규율된 합리성 심사의 합리적 이해”(2020), “딥페이크와 여론형성: 알고리즘의 권력화와 탈진실의 규제담론”(2020), “미국 통신재난 대응법제의 시사점”(2019), “정보환경의 변천에 따른 개인정보 보호정책의 헌법합치적 본질성 반추”(2018), “정보통신서비스 제공자에 관한 법적 고찰”(2018), “주민등록번호의 입법목적 정당화에 관한 법제연구”(2017) 등의 학술 논문을 한국학술지인용색인(KCI) 등재학술지에 게재했다. 국가인권위원회 정보인권특별전문위원회 비상임위원을 지냈으며, 개인정보보호위원회 개인정보정책국·방송통신위원회 이용자보호국·한국인터넷진흥원 개인정보보호본부·한국정보화진흥원 개인정보보호기획부·중앙인사위원회 인재관리자문위원회·행정자치부 전자정부본부·정보통신부 정보보호기획단 등 주요 기관에 대한 개인정보 법제 및 정책 자문 활동을 이어 왔다. 저서로는 『정보인권의 규범구체화』(2013), 『컨버전스와 미디어법』(2008), 『개인정보법제론』(2007) 등이 있다.