딥페이크와 사생활 보호

• 영문명: Deepfakes and Privacy Protection
• 발행기관: 한국재산법학회
• 저자명: 고세일(Se-il Ko)
• 간행물 정보: 『재산법연구』第42卷 第1號, 83~111쪽, 전체 29쪽
• 주제분류: 법학 > 법학
• 파일형태: PDF
• 발행일자: 2025.05.31

국문 초록

한 사람이 쓰는 컴퓨터가 한 공간에 남아 있었다. 그 사람이 쓰는 컴퓨터는 다른 사람이나 다른 사람이 쓰는 컴퓨터와 연결되지 않았다. 시간이 흘러서 인터넷이 도입되었다. 전화선, 케이블선, 랜선을 통해서 인터넷으로 여러 컴퓨터와 연결되었다. 많은 사람 사이에 많은 정보가 오고 갔다. 인터넷 이전의 세상과 인터넷 이후의 세상이 많이 달라 보였다. 또한 시간이 흘러서 인공지능이 나타났다. 많은 사람은 인공지능이 새로운 산업혁명을 일으킬 것으로 여기고 열광하기도, 두려워하기도 했다. 또한 다른 시간이 흘러서 생성형 인공지능이 등장했다. 많은 사람은 생성형 인공지능의 똑똑함에 놀랐다. 많은 사람은 생성형 인공지능을 신기한 것으로 여겼다. 또한 생성형 인공지능이 만들어 내는 그림자에 대해서도 고민하기 시작했다. 생성형 인공지능이 만드는 어두운 그림자 가운데 한 영역이 딥페이크이다. 현실에서 딥페이크가 문제를 일으키는 영역은 크게 둘이다. 첫째는 ‘선거’와 관련된 영역이다. 둘째는 ‘음란물’이다. 딥페이크가 우리 사회에 부작용을 일으키는 두 영역의 공통점은 사람의 동일성(identity)을 침해한다는 점이다. 다른 사람이 나쁜 의도로 어떤 사람의 이미지에 대한 동일성을 깨뜨린다. 딥페이크 기술로 만든 나쁜 이미지가 그 사람의 진실한 이미지를 왜곡한다. 그러면서 그 사람에 대한 나쁜 이미지로 그 사람의 진실한 이미지를 대체한다. 따라서 대중은 딥페이크 기술로 만들어진 나쁜 이미지를 그 사람에 관한 참된 정보로 인식한다. 그런 면에서 딥페이크는 그 사람에 대한 동일성을 왜곡하고, 그 사람에 대한 자아상(self-image)을 허문다. 딥페이크가 일으키는 측면을 다루는 논문은 두 방향성으로 접근한다. 첫째는 딥페이크에 대한 기술적 측면을 고찰하는 논문이다. 둘째는 딥페이크를 형사법적으로 규율하려고 탐구하는 논문이다. 그런 측면에서 아직 딥페이크에 대한 민사법적 접근의 논문은 시작 단계이다. 딥페이크를 법으로 규율하는 영역을 모두 망라하면, 이는 ① 플랫폼 책임, 잠재적 인공지능 개발자의 책임을 규율하는 행정법 영역, ② 형사법 영역, ③ 명예훼손과 사생활 침해를 규율하는 민사법 영역이다. 이 논문에서는 딥페이크에 대한 민사법적 접근으로, 딥페이크와 관련한 사생활 보호에 초점을 둔다. 글쓴이는 이 논문을 다음과 같이 구성한다. 먼저 II에서 딥페이크가 일으켰던 사례와 딥페이크 기술을 설명한다. 그 뒤에 III에서 딥페이크에 대한 법적 규율로 사생활 보호를 고찰한다. 마지막으로 IV에서 딥페이크가 일으키는 사생활 문제를 어떤 측면에서 규율하고 보호할 것인지에 대해서 제언한다.

영문 초록

A person uses their computer in their space. Their computer is not connected to other computers. As time passed, the Internet was introduced. Many computers became connected to the Internet through telephone, cable, and LAN lines. A wealth of information was exchanged among many people. The world before and after the Internet was different. Additionally, as time progressed, artificial intelligence emerged. Many were excited or afraid that artificial intelligence would bring about a new industrial revolution. Moreover, as time continued, generative artificial intelligence arrived. Many people were astonished by the capabilities of generative artificial intelligence. Many thought generative artificial intelligence was incredible. However, they also began to worry about the shadows that generative artificial intelligence makes. One aspect of the dark shadow that generative artificial intelligence casts is “deepfakes.”In reality, there are two significant areas where deepfakes cause problems. The first is related to “elections.” The second is “pornography.” The commonality between the two regions is that deepfakes adversely affect our society because the new technology violates human identity. Tortfeasors intend to undermine a person’s image and identity. Deepfakes create harmful images and distort a person’s actual representation. Subsequently, these distorted images replace the authentic representation. As a result, the public perceives the harmful images created using deepfake technology as accurate information about the person. In this sense, deepfakes distort a person’s identity and damage their self-image. Thus, various academic journals have addressed deepfakes using two main approaches. One focuses on the technical aspects of deepfakes, while the other examines their regulation under criminal law. In this context, academic articles discussing civil responsibility related to deepfakes are still in the early stages. When considering all areas that legislate deepfakes, there are (1) administrative law regulating the responsibilities of platform providers and potential AI developers, (2) criminal law, and (3) civil law governing defamation and invasion of privacy. In this article, the author concentrates on privacy protection concerning deepfakes, based on civil responsibility. This article is organized as follows: First, in section II, the author explains the cases arising from deepfakes and deepfake technology. Then, in section III, the author examines privacy protection as a legal regulation for deepfakes. Finally, in section IV, the author proposes measures to protect privacy from deepfakes.

목차

Ⅰ. 머리말

Ⅱ. 딥페이크 사례와 기술

Ⅲ. 딥페이크에 대한 법적 규율과 사생활 보호

Ⅳ. 맺음말

참고문헌

키워드

딥페이크 생성형 인공지능 딥러닝 사생활 프라이버시 동일성 Deepfakes Generative Artificial Intelligence Deep Learning Privacy Identity