Ambiguous AI: Lossy Compression, Model Collapse, and Intercultural Sensitivity

• 발행기관: 한국비평이론학회
• 저자명: 신혜린(Haerin Shin)
• 간행물 정보: 『비평과 이론』제29권 3호, 173~206쪽, 전체 34쪽
• 주제분류: 어문학 > 영어와문학
• 파일형태: PDF
• 발행일자: 2024.10.31

국문 초록

이 논문은 인공지능(AI), 문화적 표현, 그리고 문화 간 민감성의 교차점에 대한 고찰을 통해 AI 시스템에서 손실 압축과 모델 붕괴가 문화적 표현에 미치는 영향을 비판적으로 분석하며, 이를 위해 AI를 단순히 능동적 행위자가 아닌 문화적 수용자이자 생산자로 개념화하는 대안적 틀인 ‘의도적 수용성’을 제시한다. AI 시스템은 압축 알고리즘에 의존해 문화의 복잡성을 제거하고, 세밀한 전통을 단순화된 고정 이미지로 나타낸다. 테드 창이 역설하는 손실 압축의 문제점과 웬디 천의 노이즈에 대한 비판 등의 담론적 틀을 통해 AI의 데이터 최적화 과정이 어떻게 문화적 다양성을 선택적으로 필터링하고 지배적 담론을 강화함으로써 소수의 목소리를 침묵시키는지를 살펴본다. 생성형 인공지능 시스템에서 발생하는 모델 붕괴 현상은 데이터 균질화를 반영하고 확대 재생산함으로써 치마만다 응고지 아디치에가 지적하는 바와 같이 문화적 표현을 “획일화된 서사”로 단순화 시킨다는 폐단을 보인다. 이러한 문제점에 대한 대응책으로, 이 논문은 문화 확장과 윤리적 안전 장치를 통해 문화적으로 민감한 AI 개발 패러다임을 제안한다. 즉, “인공지능의 모호성”을 필요 조건으로 제시함으로써 의도적 수용성을 바탕으로 한 패러다임을 구축하여, AI의 역할을 참여적 문화 구성원으로 재구성하는 아키텍처의 개발을 촉구한다.

영문 초록

This paper examines the intersections of artificial intelligence (AI), cultural representation, and intercultural sensitivity, critiquing the impact of lossy compression and model collapse on cultural expression in AI systems. The study introduces “intentional patiency” as an alternative framework, conceptualizing AI not merely as an active agent but as a cultural receptor, and in turn, producer. AI systems often rely on compression algorithms that strip away cultural complexities, rendering nuanced traditions as simplified, stereotypical artifacts. Drawing on frameworks from Ted Chiang’s metaphor of lossy compression to Wendy Chun’s critique of noise, the essay explores how AI’s data optimization selectively filters cultural diversity, perpetuating dominant narratives while silencing marginalized voices. Model collapse in generative systems demonstrates while also exacertabting the pitfalls of homogenous data to reduce cultural representations to monolithic “single stories,” echoing concerns raised by Chimamanda Ngozi Adichie. To address this issue, this essay advocates for an interculturally sensitive AI development paradigm, incorporating cultural expansion and ethical safeguards to mitigate cultural erasure. Through the concept of “ambiguous AI,” a paradigm rooted in probabilistic engagement and intentional patiency, the essay seeks to reframe AI’s role as a nuanced participant in cultural discourse, promoting culturally adaptive architectures.

목차

Ⅰ. Introduction

Ⅱ. Lossy Compression and Cultural Representation in AI

Ⅲ. Model Collapse and the Homogenization of Cultural Expression

Ⅳ. Intercultural Sensitivity and AI: Towards a More Nuanced Approach

Ⅴ. Intentional Patiency: A New Paradigm for Culturally Sensitive AI

Ⅵ. Ambiguous AI: Toward Future Development Paradigms

Ⅶ. In Closing

Works Cited

키워드

인공지능의 모호성 손실 압축 모델 붕괴 문화 간 민감성 의도적 수용성 Ambiguous AI Lossy Compression Model Collapse Intercultural Sensitivity Intentional Patiency