인공적 도덕 행위자의 도덕 감정 설계에 대한 초등 도덕과 교과 토론 수업 적용 방안: 칸트, 밀, 콜버그를 중심으로

• 영문명: Application of Discussion-Based Instruction in Elementary Moral Education on the Moral Emotion Design of Artificial Moral Agents (AMA): Focusing on Kant, Mill, and Kohlberg
• 발행기관: 학습자중심교과교육학회
• 저자명: 한지윤(Ji-Yoon Han)
• 간행물 정보: 『학습자중심교과교육연구』제25권 14호, 255~279쪽, 전체 25쪽
• 주제분류: 사회과학 > 교육학
• 파일형태: PDF
• 발행일자: 2025.07.31

국문 초록

목적 본 연구는 초등 도덕과 교과에 나와 있는 인공지능 로봇과의 관계를 전달할 때 그것이 도덕 감정으로 윤리 원칙을 지키는 인공지능 로봇과의 상호작용을 의미하는지에 관한 토론 수업 활용 방안을 제안하기 위한 것이다. 방법 도덕과 교과에 나오는 인공지능 로봇은 인공적 도덕 행위자(AMA)를 의미하며 도덕적 행위를 추구하는 가상 소프트웨어이자 물리적 로봇이다. 본 연구는 도덕적 행위를 하는 AMA와의 관계 형성에 초점을 둔 토론 수업 방안에 대해 첫째, AMA의 표본인 인간이 이성만으로 도덕적 행동을 하기 어려우므로, 도덕 감정을 바탕으로 도덕 원칙을 준수함을 전제로 상호작용이 이루어짐을 다양한 문헌 고찰을 통해 논의한다. 둘째, 도덕 감정이 설계된 AMA가 도덕 원칙을 지키면서 인간과 관계 형성을 이루듯이, 실제 트롤리 딜레마 상황에서 도덕 감정으로 다수뿐만 아니라 소수 또한 희생하지 않는 대응을 하면서 인간과의 상호작용이 이루어짐을 논의한다. 셋째, 도덕 감정이 설계된 AMA가 트롤리 딜레마 상황에서 공리주의의 한계를 벗어나 소수인 나까지 보호하는 선택을 하므로, 이러한 AMA와 친구가 될 수 있는가에 관한 토론 활동을 제안한다. 결과 도덕 감정을 토대로 도덕적 행위를 하는 인간과 같이, AMA는 감정을 정교하게 설계하는 기술로 인간의 즉각적인 감정 반응을 간과하지 않는 상호작용을 한 결과 소수를 희생시키는 것이 아니라 보호하는 행위로 공리주의 한계를 극복할 수 있다. 이에 근거하여 감정 보완을 통해 도덕적 행위를 실현하는 AMA가 소수에 해당하는 나 역시 희생시키는 결정을 내리지 않으므로, AMA와 친구가 될 수 있는지에 관한 토론 수업 방안이 적용된다. 결론 AMA와의 관계 형성에 관한 토론 수업의 의의는 AMA가 수학적 추상화에 의존해 사물을 식별하지 못한 결과 판단 오류가 있기보다 도덕 감정으로 시스템 설계를 보완해 도덕법칙을 지킬 때 상호작용이 원만한지를 토의하는 수업 방안을 적용 가능하다는 데 있다. 즉 트롤리 딜레마 상황에서 인간과 AMA 간의 교감을 한 결과 소수를 희생시키는 공리주의적 한계를 극복할 때 비로소 인공지능과 친구가 되는지에 대한 토론 수업 방안을 활용할 수 있다. 그러나 토론할 때 AMA에 감정을 설계해서 발생할 수 있는 지나친 욕망에 대한 통제 방안을 제시하기 어렵고, 도덕 감정일지라도 문화 차이에 따라 다르게 해석된다는 한계가 있으므로, 이 점 역시 보완하는 토론 수업 방안을 모색해야 한다.

영문 초록

Objectives This study aims to propose a discussion-based instructional framework for elementary moral education that explores whether the portrayal of human-robot relationships-as presented in the curriculum-actually signifies interactions with AMA capable of upholding ethical principles through moral emotions. Methods The proposed discussion-based instructional approach, focusing on the formation of relationships with morally active AMAs, is structured as follows. First, it is acknowledged-through a comprehensive review of literature-that human beings, as exemplars of AMAs, cannot be expected to perform moral actions solely by reason; rather, interpersonal interactions predominantly rely on moral emotions to uphold ethical principles. Second, the approach explores scenarios in which AMAs, designed with moral emotions similar to those of humans, engage in relationship-building by consistently adhering to moral principles. For instance, in a trolley dilemma scenario, literature is examined to demonstrate how an AMA equipped with moral emotions can respond in a way that spares both the majority and the minority. Third, given that an AMA engineered with moral emotions can, in a trolley dilemma, overcome the limitations of utilitarianism by making choices that protect even the minority (including oneself), the study proposes a discussion-based instructional framework centered on whether one can form a friendship with such an AMA. Results If an AMA is engineered to mimic human moral action through the precise design of emotional responses-thereby ensuring immediate recognition of human emotional reactions-it can potentially overcome the utilitarian limitation by protecting the minority. Based on this premise, a discussion-based instructional model can be implemented to investigate whether one could indeed form a friendship with an AMA that, via emotional compensation, avoids decisions that would sacrifice the few, even in adverse scenarios. Conclusions The significance of incorporating discussion-based instruction in relationship formation with AMAs lies in the possibility of steering clear of judgment errors that stem from excessive reliance on mathematical abstraction, as seen with object misidentification, by compensating with a system designed on moral emotions. In trolley dilemma scenarios, this approach facilitates a process of interaction between humans and AMAs that addresses and mitigates the utilitarian shortcoming of sacrificing the minority. However, it is important to acknowledge that discussions must also consider potential issues arising from the overdesign of emotional components in AMAs-such as the risk of excessive desire-and the possibility that interpretations of moral emotions may vary across cultural contexts. Therefore, further refinement of the discussion-based instructional framework is necessary to address these limitations.

목차

Ⅰ. 서론

Ⅱ. 감정에 대한 철학적 접근

Ⅲ. AMA 시스템의 감정 설계

Ⅳ. AMA 감정 설계의 도덕과 교과 적용

Ⅴ. 결론 및 제언

참고문헌

키워드

인공적 도덕 행위자(AMA) 도덕 감정 칸트 밀 콜버그 Artificial moral agent(AMA) Moral emotion Kant Mill Kohlberg