인공지능에 의한 자동의사 결정과 알고리즘에 대한 설명요구권 구현에 관한 헌법 연구

• 영문명: Constitutional study on the implementation of the right to request explanation for automatic decision-making by artificial intelligence and algorithms
• 발행기관: 한국헌법학회
• 저자명: 손형섭(Hyeung-Seob Son) 유정수(Jeong-Su Yu)
• 간행물 정보: 『헌법학연구』第31卷 第1號, 285~323쪽, 전체 39쪽
• 주제분류: 법학 > 법학
• 파일형태: PDF
• 발행일자: 2025.03.31

국문 초록

AI 기반 의사결정이 형사절차·금융·행정 등 다양한 분야에서 활용됨에 따라 법적, 헌법적 쟁점이 대두되고 있다. 특히 AI의 자동의사 결정이 인간의 자기결정권과 개인정보 통제권을 제한하는 점을 고려할 때, 이에 대한 설명을 요구할 권리가 헌법적 기본권으로 인정될 필요성이 제기된다. EU GDPR 제22조는 자동화된 개별 의사결정에 대한 거부권과 인간 개입권을 보장하며, EU AI법에서도 AI의 위험 수준에 따라 규제 방안을 제시하고 있다. 미국 ‘AI 권리장전 청사진’ 및 행정명령 또한 AI 의사결정의 투명성과 설명 가능성을 강조한다. 한국에서는 신용정보법과 개인정보 보호법 개정을 통해 AI 자동화된 결정에 대한 설명요구권을 규정하였다. 한국에서는 개인정보 보호법 및 신용정보법의 개선을 통해 설명요구권을 구체화하면서 AI 알고리즘의 투명성 확보를 위한 기술적·제도적 개선이 추진되었다. AI의 투명성과 공정성을 보장하기 위해 설명요구권을 법적으로 명확히 규정하고, 이를 기반으로 한 제도적 개선과 기술적 대응이 지속적으로 이루어져야 한다. 나아가 AI 자동의사 결정에서 정보주체는 의사결정 프로세스에 대해 일정한 설명을 요구할 권리를 가져야 한다. 이는 AI의 투명성을 확보하고, 알고리즘 편향과 오류를 방지하기 위한 필수적인 요소이다. AI 자동의사 결정 설명요구권은 자기결정권, 개인정보 통제권, 알 권리, 평등권에 근거하여 헌법적으로 인정될 수 있으며, 이것이 기본권으로 인정되면, 국가 및 기업은 이를 보장할 의무를 지게 된다.

영문 초록

As AI-based decision-making is utilized in various fields such as criminal law, finance, and administration, legal and constitutional issues are emerging. In particular, considering that AI's automatic decision-making restricts human self-determination rights and personal information control rights, the need to recognize the right to request an explanation for this as a constitutional fundamental right has been raised. Article 22 of the EU GDPR guarantees the right to obtain human intervention on the part of the controller, and the EU AI Act also presents regulatory measures according to the level of risk of AI. The US ‘AI Bill of Rights Blueprint’ and executive orders also emphasize the transparency and explainability of AI decision-making. In South Korea, the right to request an explanation for AI automated decisions was stipulated through amendments to the Credit Information Act and the Personal Information Protection Act. In south Korea, technical and institutional improvements were promoted to secure the transparency of AI algorithms while specifying the right to request an explanation through improvements to the Personal Information Protection Act and the Credit Information Act. In order to ensure the transparency and fairness of AI, the right to request an explanation should be clearly stipulated in law, and institutional improvements and technological responses based on this should be continuously made. Furthermore, in AI automatic decision-making, the information subject should have the right to request a certain explanation of the decision-making process. This is an essential element for securing the transparency of AI and preventing algorithmic bias and errors. The right to request explanation of AI automatic decision-making can be constitutionally recognized based on the right to self-determination, the right to control personal information, the right to know, and the right to equality, and if this is recognized as a fundamental right, the state and companies will have an obligation to guarantee it.

목차

Ⅰ. 들어가며

Ⅱ. AI 자동의사 결정 설명요구권

Ⅲ. 설명요구권의 법적 근거

Ⅳ. 설명요구권의 기본권성과 수용가능성

Ⅴ. 맺으며

키워드

AI 자동의사 결정 AI 자동의사 결정 설명요구권 자기결정권 개인정보 통제권 알고리즘 투명성 Artificial intelligence AI automatic decision-making Right to request explanation for AI automatic decision-making Right to self-determination Right to control personal information Right to obtain human intervention