우리나라의 인공지능 기본법 제정에 따른 법적 과제

• 영문명: Legal Challenges Following the Enactment of Korea’s Basic Act on Artificial Intelligence
• 발행기관: 한국헌법학회
• 저자명: 김나루(Na Roo Kim)
• 간행물 정보: 『헌법학연구』第31卷 第2號, 263~306쪽, 전체 44쪽
• 주제분류: 법학 > 법학
• 파일형태: PDF
• 발행일자: 2025.06.30

국문 초록

2025년 1월 21일에 제정된 ｢인공지능 발전과 신뢰 기반 조성 등에 관한 기본법｣(이하 ‘인공지능 기본법’)은 우리나라가 유럽연합에 이어 세계에서 두 번째로 인공지능에 대한 포괄적 법제를 갖추고, 인공지능 기술의 발전과 윤리적 활용을 위한 법적 기반을 마련했다는 점에서 중요한 의의를 가진다. 그러나 인공지능 기본법이 실질적인 효력을 가지고, 급변하는 기술 환경과 다양한 사회적 영향에 효과적으로 대응하기 위하여는 보다 정교하고 균형 잡힌 법적 보완이 필요하다. 첫째, 인공지능 시스템의 위험 수준에 따른 차등화된 규제 체계를 확립해야 한다. 유럽연합의 체계적인 위험 분류 및 포괄적 규제 접근법과 미국의 유연한 법률 적용 방식을 조화롭게 결합하여 인공지능 기술의 혁신, 윤리적 책임, 국민의 권익 보호를 동시에 달성할 수 있는 균형 잡힌 규제 프레임워크를 구축해야 한다. 둘째, 인공지능의 투명성과 설명가능성을 강화해야 한다. 인공지능 시스템의 의사결정 과정과 결과에 대한 구체적인 설명 방식, 이의 제기 절차, 상세한 기술 문서 작성 및 보관 의무, 로그의 기록 및 보관 의무 등을 명확히 규정함으로써 인공지능에 대한 신뢰를 확보해야 한다. 셋째, 인공지능의 윤리 및 인권 보장을 강화해야 한다. 고영향 인공지능에 대한 영향평가 의무화, 인공지능 시스템의 차별 방지 메커니즘 도입, 인간의 실질적 개입 보장 등을 통해 인공지능 시스템의 윤리성과 인권 보호를 강화해야 한다. 넷째, 인공지능 산업 육성과 규제의 균형을 위해 위험 기반 접근법 도입, 기존 법체계의 유연한 적용, 혁신 지원 인프라 구축, 국제 협력 강화, 인공지능 특화 규제 샌드박스 도입 등을 고려해야 한다. 이러한 개선을 통해 우리나라의 인공지능 기본법은 인공지능 기술의 혁신과 윤리적 활용, 국민의 권익 보호를 균형 있게 달성할 수 있을 것이다. 향후 인공지능 기본법의 시행령 제정 과정에서 이러한 요소들이 잘 반영되어야 하며, 지속적인 모니터링과 개선을 통해 인공지능 거버넌스의 효과성을 제고해 나가야 할 것이다.

영문 초록

The “Basic Act on the Promotion of Foundations for Development and Trust for Artificial Intelligence” (hereinafter referred to as the “Basic Act on Artificial Intelligence”), enacted on January 21, 2025, marks South Korea as the second country in the world, following the European Union, to establish a comprehensive legal framework for artificial intelligence. This legislation is significant in that it provides a legal foundation for both the advancement of AI technology and its ethical utilization. However, for the Basic Act on Artificial Intelligence to be truly effective and responsive to the rapidly evolving technological landscape and its diverse social impacts, more sophisticated and balanced legal refinements are required. First, a differentiated regulatory system based on the risk level of AI systems must be established. By harmoniously combining the EU’s systematic risk classification and comprehensive regulatory approach with the United States’ flexible legal application, Korea should build a balanced regulatory framework that simultaneously fosters technological innovation, ensures ethical responsibility, and protects citizens’ rights. Second, transparency and explainability of AI must be enhanced. This includes clearly stipulating concrete methods for explaining AI decision-making processes and outcomes, procedures for objections, obligations for detailed technical documentation and preservation, and requirements for logging and record-keeping, thereby securing public trust in AI. Third, the protection of ethics and human rights in AI must be strengthened. This can be achieved by mandating impact assessments for high-impact AI, introducing mechanisms to prevent discrimination by AI systems, and ensuring meaningful human intervention. Fourth, to balance AI industry development with regulation, Korea should consider adopting a risk-based approach, flexible application of existing legal systems, building innovation-supporting infrastructure, strengthening international cooperation, and introducing AI-specific regulatory sandboxes. Through such improvements, the Basic Act on Artificial Intelligence can achieve a balanced realization of technological innovation, ethical use of AI, and protection of citizens’ rights. It is essential that these elements are thoroughly reflected in the forthcoming enforcement decrees, and that continuous monitoring and improvement are pursued to enhance the effectiveness of AI governance in Korea.

목차

Ⅰ. 서론

Ⅱ. 우리나라 인공지능 기본법의 주요 내용

Ⅲ. 외국의 인공지능 법제 현황

Ⅳ. 우리나라 인공지능 기본법의 개선 방향

Ⅴ. 결론

참고문헌

키워드

인공지능 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 인공지능 기본법 고위험 인공지능 고영향 인공지능 유럽연합의 인공지능법 인공지능 권리장전 청사진 Artificial Intelligence Basic Act on the Promotion of Foundations for Development and Trust for Artificial Intelligence Basic Act on Artificial Intelligence High Risk AI High Impact AI EU AI Act Blueprint for an AI Bill of Rights