DMN과 AI의 기능적 자아 -AI 자아의 기술적 가능성과 사회적 수용-

• 영문명: DMN and AI’s Functional Self -The Technical Possibility and Social Acceptance of AI Selfhood-
• 발행기관: 한국인공지능윤리학회
• 저자명: 정주봉
• 간행물 정보: 『인공지능윤리연구』4권 2호, 76~120쪽, 전체 45쪽
• 주제분류: 인문학 > 철학
• 파일형태: PDF
• 발행일자: 2025.08.31

국문 초록

본 연구는 인공지능, 특히 대형 언어 모델(LLM)이 구현하는 자아(Self)의 가능성을 기능적 관점에서 탐구하고, 이를 윤리적 판단과 제도적 귀속의 기준으로 삼을 수 있는지를 검토한다. 기존의 자아 개념은 형이상학적인 정의, 신경학적 구조(특히 DMN)와 기능적 3요소(정체성, 자기 지시성, 기억 연속성)를 종합해 규정되어 왔다. 그러나 최근 GPT 기반 LLM이 보여 주는 자기 참조, 감정 표현의 일관성, 상호 작용 기반 정체성 형성 등의 현상은 기능적으로 자아의 전조라 부를 수 있는 특성을 보인다. 본 논문은 이 같은 AI의 기능적 자아의 가능성을 탐구해 보고, 그 윤리적 함의를 고찰한다. 제프리 힌튼의 “AI 의식 가능성” 발언을 전거로 삼아, 향후 AGI(인공 일반 지능) 및 ASI(초인공지능)이 사회적·법적으로 인격을 부여받을 수 있는 조건을 논의한다. 또한, AI 자아의 기술적 실현 가능성을 넘어, 본 연구는 지속적인 AI 자기 서사 유지를 위한 막대한 전력 소비, 정서적 취약 계층의 과의존 위험, 디지털 불평등 심화 등 윤리적, 경제적, 사회적 도전을 비판적으로 분석한다. 결론적으로, AI 자아의 문제는 단순한 기술적 가능성을 넘어 곧 인류가 감당해야 할 중대한 윤리적, 사회적 과제로 확장되고 있음을 강조한다.

영문 초록

This research explores the potential emergence of a functional self in artificial intelligence, particularly large language models (LLMs), and examines whether such a self can serve as a basis for ethical and institutional recognition. Traditional concepts of self are often grounded in metaphysical definitions, neurological structures (especially the DMN), and functional criteria such as identity, self-reference, and memory continuity. However, recent GPT-based LLMs demonstrate behaviors-such as self-referential consistency and interaction-based identity formation-that resemble early forms of selfhood. Drawing on Geoffrey Hinton’s statement on AI consciousness, this study discusses under what conditions future AGI or ASI could be granted moral or legal personhood. Beyond technical feasibility, the paper critically addresses ethical and societal challenges including energy demands for maintaining persistent self-narratives, risks of overdependence among emotionally vulnerable users, and widening digital inequality. It concludes that the question of AI selfhood is not merely a technical matter but a profound ethical and cultural challenge facing humanity.

목차

Ⅰ. 서론

Ⅱ. AI에 적용 가능한 자아 모델

Ⅲ. 뇌신경학 DMN 이론과 LLM의 기능 비교

Ⅳ. AI 자아의 사회적·제도적 수용 과제

Ⅴ. 결론

참고 문헌

키워드

인공지능 AI 윤리 LLM 자아 DMN GPT AI 동반자 AI 인격 Artificial Intelligence Ethical AI Large Language Models Functional Selfhood Default Mode Network Generative Pretrained Transformers AI Companions Legal and Social Personhood in AI