당신은 AI를 어디까지 믿을 수 있나요?

AI 시대, 우리가 알아야 할 신종 AI 범죄와 법

박찬선 저자 지음

이지스퍼블리싱 2025년 06월 24일 출간 국내도서 : 2025년 06월 24일 출간

작품소개

책소개

딥페이크 영상, 조작된 댓글, 가짜뉴스, 여론 조작… AI 기술은 이제 범죄의 도구가 되고 있다. 『당신은 AI를 어디까지 믿을 수 있나요?』는 AI의 편리함에 가려진 위험한 그림자를 정면으로 다룬 책이다. 순천향대 오윤성 교수를 포함한 법조계·수사기관 전문가들의 추천을 받은 이 책은 실제 범죄 사례부터 처벌 규정, 예방 프로그램, 그리고 곧 시행될 인공지능기본법 해설까지 폭넓게 담았다. 기술을 맹신하기 쉬운 지금, AI에 대한 신뢰가 어떻게 이용되고 범죄로 이어지는지, 그리고 우리는 무엇을 알고 대비해야 하는지를 명확하게 알려 주는 현실적인 경고장이다. 지금 이 책은 AI 시대를 살아가는 모든 사람을 위한 필독서다.

목차

[프롤로그]

1부. 생성형 AI

01 저작권 침해
AI 작곡가가 저작권료를 받을 수 있을까요?
AI는 지금도 누군가의 저작물을 학습하고 있다
[사례] 울트라맨 사건
유럽연합의 인공지능법(AI Act)과 같은 법제화 필요

02 미술품 위작
둘 중 하나는 위작 논란에 휩싸인 작품입니다
생성형 AI 앞에 놓인 선택의 기로, 미술품 복원 vs 위작
[사례] 넥스트 렘브란트 프로젝트
[사례] 클림트 컬러 에니그마 프로젝트
미술품 시장을 위협하는 AI
[예방 프로그램] 작가의 스타일을 모방하지 못하도록 막는 기술 - 글레이즈 & 나이트셰이드

2부. 대규모 언어 모델, LLM

03 가짜 뉴스 생산
“미국 트럼프 대통령이 체포되었다고요?”
챗GPT에게 가짜 뉴스 생성을 시켜 봤습니다
광고 수익을 목적으로 가짜 뉴스를 제작하는 ‘콘텐츠 팜’
[예방 프로그램] 작성자를 분석해 주는 AI 탐지 프로그램 - GPT제로

04 스피어 피싱
“김OO 고객님, 주문하신 택배가 도착할 예정입니다. 배송 조회(클릭)”
손쉽게 스피어 피싱 메시지를 만드는 LLM
[사례] 챗GPT의 메시지 생성 능력 실험
[사례] LLM 모델별 메시지 생성 능력 비교 실험

05 악성코드 제작
“컴퓨터 파일을 복구하고 싶다면 비트코인으로 $300를 보내시오”
랜섬웨어 등 악성코드를 만드는 데 악용되는 LLM
LLM이 생성한 코드를 분석하고 탐지하기

3부. 딥페이크

06 로맨스 스캠
“OO 씨, 여기로 $700 보내면 비트코인 배당금 보낼게요”
[사례] 로맨스 스캠에 속아 7천만 원을 잃은 A씨
3배 이상 증가한 ‘로맨스 스캠’ 피해 규모
상대방이 제공하는 사진, 여권, 은행 계좌 등이 허위일 수 있습니다
온라인 플랫폼 운영자가 취해야 하는 조치
워터마킹을 활용한 딥페이크 라벨링 기술

07 딥페이크 성범죄물 제작
4천 명에 달하는 연예인 딥페이크 피해자
[사례] 작가 ‘베가 캐디’에게 온 협박 이메일
[사례] 서울대 n번방 사건
[예방 프로그램] 이미지 보호를 위해 ‘디지털 백신’ 접종하기

4부. 봇

08 여론 조작
“OOO 후보님 응원합니다” 한순간에 올라가는 댓글 공감 수
여론을 조작하는 검은 손, 소셜 봇
[사례] 영국 브렉시트 국민투표
[사례] 2016년 미국 대선 여론 조성 사건
[예방 프로그램] SNS 계정이 소셜 봇인지 검증하는 프로그램 - 봇 오미터 엑스

09 시세 조종
“아무 이유 없이 주가가 오르다가 어느 순간 바닥으로 떨어졌어요”
시세 조종에 사용되는 소셜 봇과 자전거래 봇
[사례] 청담동 주식 부자 ‘이희진 형제’ 코인 사기 사건
[예방 프로그램] 컴퓨터와 사람을 구별하는 테스트 프로그램, 캡차
사용자 행동 패턴 분석과 IP 추적

10 크리덴셜 스터핑
당신의 아이디와 비밀번호, 안전한가요?
[사례] 대성학원 개인정보 유출 사건
해커 대신 무작위 로그인 시도를 수행하는 봇
비밀번호 변경과 이중 인증 사용 등 기본적인 보안 실천 필요

11 온라인 쇼핑 사기
“이렇게 똑같은데 가짜 쇼핑몰이라고요?”
가짜 온라인 쇼핑몰에서 사기당하는 과정
[사례] 과일 업체 과장·허위 광고 사건

5부. 자율주행 기계

12 마약 운반
“드론이 마약을 싣고 교도소 담장을 넘었습니다”
자율비행 드론이 과연 의약품만 운반할까?
우범지대를 드론 비행 금지 구역으로 설정하기
경찰 드론을 활용한 공중 감시

13 인명 살상
“드론이 적군의 탱크, 수송차를 식별해 공격합니다”
군에서 주목받는 자율주행 기계
수사에 어려움을 주는 자율주행 기계 관련 범죄
자율주행 기계가 테러에 악용될 위험성
자율주행 기계의 ‘사물 식별 기술’ 향상하기
기계 장치별 사이버보안 기준 확립 필요

[부록 1] AI 용어 사전
[부록 2] 인공지능기본법

찾아보기

작가정보

저자(글) 박찬선 저자

AI 범죄 연구자. 중앙대학교에서 법학을, 전남대학교 대학원에서 철학을 전공했다.범죄가 상업적으로 소비되는 현실을 보며 범죄를 제대로 이해하고 싶어 셜록 홈즈의 나라 영국으로 유학을 떠났다. AI 윤리가 세계적인 화두로 떠오르자 AI 범죄 또한 앞으로 중요한 사회 이슈가 될 것으로 생각해, 맨체스터대학교 대학원에서 범죄학을 전공하며 챗GPT를 주제로 졸업 논문을 작성했다.AI가 주목받는 요즘, 그 이면에 존재하는 위험성과 악용 가능성을 알리고자 이 책을 썼다.웹 사이트: sherlockpark.imweb.me