인공지능 활용에 따른 기본권 침해 위험과 규범적 대응 - 사법작용에서의 인공지능 활용과 재판청구권 보장을 중심으로

• 영문명: The Risks of AI Infringing on Fundamental Rights and Normative Responses : Focusing on the Use of AI in Judicial System and the Right to a Trial
• 발행기관: 전남대학교 공익인권법센터
• 저자명: 홍석한(Seokhan Hong)
• 간행물 정보: 『인권법평론』제 34호, 281~325쪽, 전체 45쪽
• 주제분류: 법학 > 법학
• 파일형태: PDF
• 발행일자: 2025.02.28

국문 초록

전 지구적인 패러다임을 전환할 수 있는 촉매로 인공지능이 부상하고 있다. 국가기관도 공적 과제 수행에 드는 부담을 경감하고 효율성을 달성하기 위하여 인공지능 활용을 확대하는 데 관심을 기울이고 있다. 국민의 ‘법관에 의한 재판을 받을 권리’가 강조되는 사법작용도 마찬가지이다. 인공지능의 특징과 그에 따른 변화의 가능성을 폭넓게 예측하고, 그러한 변화가 기본권에 미칠 수 있는 전반적인 영향을 평가하여 이에 대응하기 위한 규범적 기준을 마련해야 할 필요성이 커진 것이다. 이에 본 논문은 인공지능 활용에 따른 기본권 침해 위험과 관련하여 주로 사법작용에 초점을 두어 사법작용에서의 인공지능 활용 가능성과 그에 대한 규범적 대응 방안을 헌법상 재판청구권 보장의 관점에서 고찰한다. 국가기관의 인공지능 활용 확대는 인공지능이 내포하는 막대한 데이터 활용, 불투명성, 오류 및 편향성 등으로 인하여 다양한 기본권 침해 위험을 불러올 수 있다. 감시체제를 고도화하여 인간의 존엄성과 자율성을 훼손하고, 의견의 자유로운 형성과 유통을 방해하여 민주주의와 권력 통제를 위한 기본권 행사를 방해할 수 있다. 또한 인공지능의 불투명성, 오류 가능성, 편향성은 신뢰할 수 있는 정당한 공권력 작용을 도모하기 위한 절차의 형성과 이를 위한 절차적 권리 행사에도 어려움을 초래할 수 있다. 국가기관은 늘어나는 공적 과제를 효율적으로 해결하고, 다른 국가와의 관계에서 국가 전체적으로 기술적 경쟁력을 확보하도록 뒷받침해야 한다. 사법작용에서도 인공지능은 이러한 목표에 기여할 수 있으며 특히 인공지능을 활용한 재판은 헌법상 재판청구권의 보장 내용 가운데 신속한 재판의 이익을 확대할 수 있으며, 객관성과 정확성의 증진을 기대할 수 있다. 그러나 독립성을 갖춘 법관에 의하여 재판을 받을 권리, 투명하게 공개되고 절차적 정당성이 충분히 보장되는 재판을 받을 권리를 희생하면서까지 이러한 이익이 강조되지 않도록 해야 한다. 이에 기본권 침해 위험이 상대적으로 적은 영역을 설정하고 그 영역부터 점진적으로 인공지능 활용을 확대하는 방식을 취하되 반드시 법적인 근거를 갖추도록 해야 하며, 사법작용에 적용되는 인공지능 시스템의 투명성, 신뢰성을 강화하고 당사자에 대한 관련 정보의 통지와 청문 기회를 실질적으로 보장하는 방안을 강구해야 한다. 이 과정에서는 기계에 의한 재판이 아니라 실질적으로 인간에 의한 재판이 보장되도록 규율해야 한다. 인공지능 활용의 확대는 자칫 인간의 존엄성을 훼손할 수 있다는 일반적 우려에 더하여 헌법은 자연인인 법관을 전제로 하여 모든 국민이 신분상, 재판상 독립성을 갖춘 법관에 의한 재판을 받을 권리를 명시적으로 보장하고 있다는 점이 강조되어야 한다. 위와 같은 필요는 인공지능이 단순히 법관이 재판에 참고할 수 있는 자료를 제공하는 수준으로 활용될 때 더욱 부각된다. 인공지능 시스템이 단지 보조적인 기능만을 담당한다는 이유로 그 도입의 근거와 활용의 절차에 관한 규범적 정당성을 소홀히 취급하거나 인공지능 시스템에 대한 법관의 독립성이 형식적으로만 보장되는 데 그치지 않도록 특별한 주의를 기울여야 한다.

영문 초록

This paper primarily addresses the potential risks of fundamental rights violations arising from the use of Artificial Intelligence (AI) in the judicial system, while exploring normative responses from the perspective of safeguarding the constitutional right to a fair trial. The increased utilization of AI by governmental institutions introduces substantial risks to fundamental rights, due to the inherent characteristics of AI, such as large-scale data usage, opacity, error-proneness, and bias. AI could significantly enhance surveillance mechanisms, thereby compromising human dignity and autonomy, disrupting the free formation and distribution of opinions, and impeding the exercise of fundamental rights essential for democratic governance and the control of power. Moreover, the opacity, potential errors, and biases associated with AI could pose challenges in establishing procedures that ensure legitimate public authority actions and the effective exercise of procedural rights. In the context of judicial activities, AI holds the potential to significantly contribute to the efficiency of public tasks by expediting trial processes and enhancing objectivity and accuracy. However, these benefits must not come at the cost of undermining core principles such as the right to a trial by an independent judge, procedural transparency, and sufficient guarantees of procedural fairness. It is therefore essential to adopt a cautious and gradual approach when expanding the use of AI, ensuring that all applications are firmly grounded in legal frameworks. Furthermore, there is a critical need to enhance the transparency and reliability of AI systems within judicial processes. Adequate safeguards must be put in place to ensure that all parties involved in legal proceedings are given proper notice and opportunities to be heard. In this process, it is imperative to ensure that trials remain fundamentally human-centered, with AI serving only as a supplementary tool rather than a substitute for judicial decision-making. The constitution guarantees the right to a fair trial, underpinned by the independence of judges, who must be free from external interference in both their status and decision-making. This principle should be rigorously upheld, particularly when AI is employed solely to assist judges by providing reference materials during the trial process. In such cases, the legal foundation for the introduction and use of AI systems, as well as the preservation of judicial independence, must be carefully safeguarded, avoiding the reduction of these principles to mere formalities. In conclusion, the integration of AI into judicial activities demands meticulous normative frameworks to prevent violations of human dignity. The deployment of AI should be pursued in a manner that upholds the independence and fairness of judicial processes, ensuring that the constitutional rights of individuals, particularly the right to a fair trial, are fully respected at all times.

목차

Ⅰ. 서론

Ⅱ. 인공지능의 개념과 특징

Ⅲ. 국가기관의 인공지능 활용 확대에 따른 기본권 보장의 문제점

Ⅳ. 인공지능 활용과 재판청구권 보장의 조화 필요성 및 방안

Ⅴ. 결론

참고문헌

키워드

인공지능 기본권 사법작용 재판청구권 법관의 독립 artificial intelligence fundamental rights judicial activities right to a trial judicial independence

참고문헌

• 헌법학연구
• 융복합지식학회논문지
• 인권법평론
• 법학논문집
• LAW & TECHNOLOGY
• 헌법학연구
• 법학논총
• 공법연구
• 헌법학연구
• 언론중재
• 과학기술과 법
• 법조
• 박영사
• 법문사
• 정책연구시리즈
• 법조
• 홍익법학
• 박영사
• 공법연구
• 공법학연구
• 유럽헌법연구
• 사법
• 민사소송
• 사법
• 미디어와 인격권
• 형사정책
• 집현재
• 민사소송
• 형사정책
• 사법정책연구원
• 동아법학
• 공법연구
• 법문사
• 저스티스
• 헌법학연구
• 헌법재판연구
• 인권법평론