인공지능(AI)과 윤리, 그리고 형사정책

• 영문명: Artificial Intelligence, Ethics, and Criminal Justice Policy
• 발행기관: 4차산업혁명융합법학회
• 저자명: 최진호(Jin-Ho Choi)
• 간행물 정보: 『4차산업혁명 법과 정책』제9호, 91~114쪽, 전체 24쪽
• 주제분류: 복합학 > 학제간연구
• 파일형태: PDF
• 발행일자: 2025.06.30

국문 초록

우리는 컴퓨터, 인터넷, 스마트폰을 통해 디지털 혁명을 경험했고 이후 자율주행, 인공지능, 로봇 등 4차 산업 혁명 기술의 발전으로 인해 개인의 삶뿐아니라 사회 전반의 혁신적 변화를 경험하고 있다. 인공지능은 사고나 학습 등 인간이 가진 지적 능력을 컴퓨터를 통해 구현하는 기술로 인간처럼 스스로 학습, 추리, 적응, 논증을 할 수 있는 지능을 말한다. 인공지능은 다양한 분야에서 인간을 대신해 위험하고, 힘들고 어려운 일을 할 수 있으며, 단순 반복적인 업무를 빠른 시간 내에 효율적으로 처리할 수도 있다. 이렇듯 인공지능은 우리의 삶을 매우 편리하게 만들고 인간의 위해로부터 보호하는 등 인공지능의 발전으로 인간의 삶이 좀 더 편하게 변화될 수 있겠지만 이러한 긍정적 변화에 반해 많은 부작용도 나타나고 있다. 물론 인공지능은 수학과 알고리즘을 바탕으로 작동하지만 여전히 인간이 만들고 인간이 자금을 대며 인간 사회 속에서 기능한다. 물론 인공지능기술의 엄청난 발전으로 인해 인공지능이 학습을 통해 도덕적 판단을 할 수 있고 특히 생성형 인공지능의 경우 우리 사회의 도덕규범에 맞추어 적절한 결과물을 내어놓을 것으로 사회적 기대가 가능한 상황이라면 도덕적 판단이 잘못되거나 정보처리의 과정에서 이 점이 누락되어 도덕적으로 문제가 있는 결과물을 내어놓은 인공지능에 대해서는 적어도 ‘잘못된 행위를 하였다’는 비난은 가능할 수 있다는 의견 또한 존재한다. 하지만 인공지능은 그냥 놀랍도록 편리하거나 위험한 기계일 뿐이다. 동기와 의도 그리고 목적의 자기 생성과 자기 산출 및 자기 변경이 가능한 자율성만이 진정한 의미의 도덕적 자율성이다. 반면에 인공지능은 기껏해야 형식적 자율성만 가지며, 그러한 자율성은 한정된 목적에 제약되고, 그것만을 실행하도록 특화된 자동기계의 자동성만 구현하는 것이다. 이러한 자동성이 생성형 인공지능을 통해 인간이 통제하기 어려운 상황이 발생한다 하더라도 인간은 어떠한 방법으로 이를 예방하거나 대비할 수 있는 방안을 강구할 것이다. 이러한 인공지능의 부작용에 대해 예방 및 대비를 충분히 해야 적절한 규제 및 형사법의 개입을 최소화할 수 있을 것이다. 인공지능윤리의 추구는 인공지능 위험성에 대한 예방활동의 시작일 것이다.

영문 초록

We have experienced a digital revolution through the advent of computers, the internet, and smartphones. Since then, technologies from the Fourth Industrial Revolution—such as autonomous vehicles, artificial intelligence (AI), and robotics— have brought about transformative changes not only in individual lives but also across all areas of society. AI refers to technology that replicates human intellectual capabilities such as thinking and learning through computers. It can learn, reason, adapt, and even generate arguments in ways that resemble human intelligence. AI is now capable of performing dangerous, strenuous, and complex tasks on behalf of humans, as well as handling repetitive tasks quickly and efficiently. In this regard, AI has the potential to greatly enhance our quality of life and protect humans from harm. However, alongside these positive developments, there are also significant side effects and risks emerging. Although AI operates based on mathematics and algorithms, it is still created, funded, and deployed by humans within human society. With the rapid advancement of AI, particularly generative AI, there is growing societal expectation that AI systems can learn to make morally sound judgments and produce outputs aligned with ethical norms. As such, when AI generates morally problematic results—either due to flawed moral reasoning or omission of ethical considerations in the processing stage—some argue that it is reasonable to criticize such systems as having “done wrong.” Nevertheless, AI remains, at its core, a remarkably convenient or potentially dangerous machine. True moral autonomy requires the ability to generate, pursue, and revise one’s own motivations, intentions, and purposes. AI, on the other hand, possesses only a form of formal autonomy, operating within predetermined goals and designed to execute specific tasks. Even when the automated nature of generative AI leads to outcomes that are difficult for humans to control, it is ultimately up to humans to devise strategies for prevention and control. Therefore, to minimize the side effects of AI, we must engage in sufficient foresight and preparation. Doing so will also help reduce the need for excessive regulation or criminal law intervention. Pursuing AI ethics is, in essence, the first step toward proactively addressing the potential risks associated with artificial intelligence.

목차

Ⅰ. 서론

Ⅱ. 인공지능의 발전과 윤리적 이슈

Ⅲ. 인공지능 이슈에 대한 윤리 및 형사정책적 고찰

Ⅳ. 결론

참고문헌

키워드

인공지능 윤리 하향식 도덕 상향식 도덕 형사정책 Artificial Intelligence Ethics Top-Down Morality Bottom-Up Morality Criminal Justice Policy