인공지능과 성범죄

배상균 지음

커뮤니케이션북스 2025년 02월 21일 출간 국내도서 : 2025년 02월 21일 출간

작품소개

책소개

AI 기술의 발전으로 딥페이크 성범죄와 AI 기반 허위 정보 문제가 심각해지고 있다. 한 장의 사진만으로 음란물을 합성할 수 있어 피해가 빠르게 확산되며, 가짜 뉴스와 사이버 명예훼손도 증가하고 있다. 기존 법과 제도로는 대응이 어렵기에 법 개정과 플랫폼 책임 강화를 요구하는 목소리가 높다. 딥러닝 영상 분석, 자연어·음성 분석, 블록체인 기술을 활용한 대응 방안을 제시하며, 안전한 디지털 환경 구축을 위한 해결책을 모색한다.

목차

인공지능 기술의 명과 암

01 인공지능 기술과 성범죄
02 디지털 성범죄 유형
03 딥페이크 성범죄의 심각성
04 성폭력처벌법 제14조의2(허위영상물 등의 반포 등)
05 디지털 성범죄 처벌 주요 판례
06 딥페이크 성범죄 영상물 소지·구입·시청에 관한 처벌 입법
07 가짜 뉴스, 사이버명예훼손죄 등
08 인공지능 기술을 이용한 범죄 예방
09 피해자 보호
10 딥페이크 성범죄 발생 시 대처와 피해 예방

책 속으로

사회적으로 비난받거나 침해 행위로 인정되더라도 그것이 곧 범죄를 의미하는 것은 아니다. 물론 사회 내에서 범죄라는 단어는 비난받을 행위의 대명사로 주로 쓰이고 있으나, 범죄라는 단어는 이에 상응하는 형벌이라는 단어와 함께 쓰여야 본연의 의미로써 쓰일 수 있다. 따라서 현실에서 발생하는 다종다양한 침해 행위를 형법에서 정한 범죄 행위로 인식할 수 있어야 하며, 또한 그러한 범죄 행위를 형법에서 정한 형벌로 처벌할 수 있어야 한다. 이를 법률로 정한 것이 바로 ‘형법’이다.
－01_“인공지능 기술과 성범죄” 중에서

딥페이크 성범죄는 국내 문제에 국한되는 것이 아니라 전 세계적 문제다. 사이버 보안 전문 민간 기업 ‘딥트레이스(Deeptrace)’에서 발표한 자료에 따르면 2019년 기준 온라인상의 딥페이크 영상물은 14,678개였으며, 이는 2018년 7,964개였던 영상 수의 약 2배로 증가한 것이다(Ajder, et al., 2019). 특히 인터넷을 통해 공유 및 유포되는 딥페이크 영상물의 96%가 포르노로 제작된 영상물이라고 한다. 더욱이 딥페이크 성범죄 영상물을 분석한 결과, 딥페이크 성범죄 피해 대상은 100% 여성인 것으로 나타났으며, 딥페이크 성범죄 피해 여성의 주요 국가는 미국이 41%, 한국이 25%, 영국 12% 등이었고, 특히 한국의 딥페이크 성범죄 피해 여성은 주로 케이팝 여성 아이돌 가수였다고 한다.
－03_“딥페이크 성범죄의 심각성” 중에서

2024년 성폭력처벌법 개정에도 불구하고 딥페이크 성범죄 규제가 충분하게 갖추어졌다고 보기에는 부족한 부분이 있다. 성폭력처벌법은 형법의 특별법이기 때문에 일반법인 형법이 준용될 수 있으나, 현재 성폭력처벌법은 행위자만을 처벌 대상으로 하기 때문에, 의뢰자도 행위자로 보아 정범으로서 취급할 것인지 아니면 교사범으로 취급할 것인지를 명확하게 규정할 필요가 있다. 형법총칙상 공범 규정의 적용 과정에서 교사미수의 인정 범위가 문제될 수 있다.
－06_“딥페이크 성범죄 영상물 소지·구입·시청에 관한 처벌 입법” 중에서

불법촬영물 등 유통 방지 책임자는 자신이 운영·관리하는 정보통신망을 통해 일반에게 공개되어 유통되는 정보 중 불법촬영물 등의 삭제·접속 차단 등 유통 방지에 필요한 조치를 수행하며(정보통신망법 제44조의9 제2항), 또한 불법촬영물 등 유통 방지 책임자를 1명 이상 지정해야 한다(정보통신망법 시행령 제35조의2 제2항).
－09_“피해자 보호” 중에서

출판사 서평

AI 기술의 양면성, 성범죄 분야에서 파헤치다
AI 기술이 성범죄에 악용되는 방식과 그 심각성을 조명하며 법적·사회적 대응 방안을 모색한다. AI 기반 성범죄의 대표 사례는 딥페이크 성범죄다. 딥페이크 기술을 이용해 유명인이나 일반인의 얼굴을 음란물에 합성하는 사례가 급증하고 있으며, 이는 피해자의 명예와 사생활을 심각하게 침해한다. 특히 AI 기술의 발전으로 한 장의 사진만으로도 합성 영상을 제작할 수 있어 피해 확산 속도가 빠르다. 인터넷과 SNS를 통해 이러한 영상이 급속히 유포되면서 피해자는 평생 씻을 수 없는 고통을 겪게 된다. 이뿐만 아니라 AI를 이용한 가짜 뉴스 및 사이버 명예훼손 문제도 심각하다. 선거철이 되면 AI를 활용한 허위 정보가 대량 생산되고, 특정 인물에 대한 조작된 영상과 음성이 만들어져 사회적 혼란을 야기한다. AI 기반 허위 정보는 기존의 가짜 뉴스보다 정교하여 사실과 구별하기 어려우며, 유포 속도도 빠르기 때문에 피해 규모가 더욱 커질 수 있다.
이러한 AI 기반 범죄는 기존의 법과 제도로 대응하기 어려운 경우가 많다. 특히 딥페이크 성범죄의 경우 과거에는 ‘유포할 목적’이 인정되지 않으면 처벌이 어려웠고, 해외 서버를 이용한 범죄는 수사도 쉽지 않았다. 이에 따라 법 개정과 더불어 플랫폼 사업자의 책임 강화를 요구하는 목소리가 높아지고 있다. 그렇다면 AI 기반 성범죄에 어떻게 대응해야 할까? 딥러닝 기반 영상 분석 기술을 활용하면 딥페이크 영상의 조작 여부를 판별할 수 있으며, 자연어 처리 및 음성 분석 기술을 통해 허위 정보 유포 패턴을 분석하고 범죄자를 추적할 수 있다. 또한 블록체인 기술을 적용하면 디지털 증거의 위·변조를 방지하고, 보다 신뢰할 수 있는 데이터 관리가 가능해진다.

작가정보

저자(글) 배상균

한국형사법무·정책연구원 부연구위원이다. 주오대학교(Chuo University)에서 형사법학 박사 학위를 받았다. 한국외국어대학교, 충북대학교, 광운대학교에서 형법, 형사소송법을 강의했다(2015~2024). 주요 저서로 3인 공저 『형사소송법 제3판』(2017), 5인 공저 『자율주행자동차와 도로교통법』(2022) 등이 있다. “인공지능(AI) 기술을 이용한 디지털 성범죄에 대한 검토: 딥페이크(Deepfake) 포르노 규제를 중심으로 ”(2019), “‘도촬행위’ 현상과 규제에 관한 비교법적 검토: 성폭력처벌법 제14조를 중심으로”(2016) 등 30편 이상의 논문을 KCI 등재학술지에 게재했으며, “韓国におけるオンライングルーミング規制に関する検討”(2023) 등 10편 이상의 논문을 해외학술지에 게재했다.