생성형 AI로 인한 법적 문제와 해결 방향

• 영문명: A Study on legal issues caused by generative AI
• 발행기관: 4차산업혁명융합법학회
• 저자명: 손형섭(Hyeungseob Son)
• 간행물 정보: 『4차산업혁명 법과 정책』제8호, 31~53쪽, 전체 23쪽
• 주제분류: 복합학 > 학제간연구
• 파일형태: PDF
• 발행일자: 2024.12.31

국문 초록

대한민국에서 2024년 9월은 전국에 걸쳐 중학생에 의해 인공지능 풀로 만들어진 딥페이크 영상물이 사회문제가 되었다. 이 사건 이전에 서울대n번방 사건도 있어 딥페이크에 대한 인격권 침해 문제가 사회문제로 부각되었다. 이에 대하여 기존법의 대응이 가능했지만, 특별히 피해자의 2차 피해를 막기 위하여 2024년 10월 16일 성폭력처벌법 제14조의2 제4항을 신설하여 편집 또는 복사된 음란물을 소지, 구매, 저장 또는 시청하는 사람도 최대 3년의 징역형으로 처할 수 있도록 하는 조문을 추가했다. 이미 2021년 발생한 챗봇 이루다의 개인정보 유출 사건에서 인공지능의 학습데이터에 개인정보 제공 동의 문제, 가명정보 처리의 불확실성 문제, 그리고 인공지능 챗봇의 차별, 혐오 표현 문제 등이 개인정보 보호법 위반 문제로 시정조치 및 과징금 벌금 처분이 있었다. 한편, 인공지능의 학습데이터의 활성화를 위한 규정으로 유럽연합과 일본은 정보분석(TDM) 규정을 두어 이를 허용하고 있다. 반면 미국과 한국은 공정이용(Fair Use) 규정을 이용하고 있다. 앞으로 일본 저작권법 규정에서와 같은 정보분석 규정을 둘 필요가 있으며 이에 대한 보상규정도 논의되어야 한다. 이처럼 한국에서 선두적으로 발생하는 인공지능 사례에서 한국은 개별법적 대응을 중심으로 사건을 검토하고 있다. 반면 2024년 12월 국회에서는 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’이 통과하여 인공지능에 대한 일반적인 원칙과 관련 기관이 정비되었다. 앞으로 인공지능에 관한 법적 대응에서는 일반법의 제정 과정과 개별법의 대응이 함께 진행될 것이다. 이때에도 인공지능에 대한 전체적인 이해와 개별적인 효과를 잘 검토하여, 기본 법제도 틀 안에서의 해결 방안이 우선하고, 이후 개별법적 대응할 때도 과잉입법이 되지 않도록 해야 할 것이다.

영문 초록

In South Korea, in September 2024, deepfake videos created by AI pools by middle school students across the country became a social issue. Before this incident, the Seoul National University Nth Room cases also brought the issue of personal rights violations regarding deepfakes to the forefront as a social issue. Although it was possible to respond to this with existing laws, on October 16, 2024, in order to prevent secondary damage to victims, Article 14-2, Paragraph 4 of the Sexual Violence Punishment Act was newly established, adding a provision that people who possess, purchase, store, or view edited or copied pornography can be sentenced to up to 3 years in prison. In the personal information leak incident of chatbot Iruda that occurred in 2021, there were corrective measures and fines for violations of the Personal Information Protection Act, such as the issue of consent to provide personal information for AI learning data, the issue of uncertainty in the processing of pseudonymized information, and the issue of discrimination and hate speech in AI chatbots. Meanwhile, the European Union and Japan have established information analysis(TDM) regulations to allow the activation of AI learning data. On the other hand, the United States and Korea are using the Fair Use regulations. In the future, it is necessary to establish information analysis regulations similar to those in the Japanese Copyright Act, and compensation regulations for this should also be discussed. In this way, in the AI cases that are leading the way in Korea, Korea is reviewing the case focusing on individual legal responses. On the other hand, in December 2024, the National Assembly passed the ‘Basic Act on the Development of Artificial Intelligence and Creation of Trust Base’, and the general principles and related organizations for AI were established. In the future, in legal responses to AI, the process of enacting general laws and responses to individual laws will proceed simultaneously. Even at this time, we must carefully review the overall understanding of artificial intelligence and its individual effects, prioritize solutions within the basic legal framework, and avoid excessive legislation when responding to individual laws.

목차

Ⅰ. 들어가며

Ⅱ. 딥페이크 사건

Ⅲ. 챗봇 이루다 사건

Ⅳ. 저작권법상 쟁점

Ⅴ. 맺으며

참고문헌

키워드

딥페이크 서울대n번방 사건 생성형 인공지능 개인정보 보호법 챗봇 이루다 정보분석 규정 공정이용 Deepfake Seoul National University Nth Room Case Generative AI Personal Information Protection Act Chatbot Iruda TDM Provision Fair Use