인공지능 예술 윤리

유현주 지음

커뮤니케이션북스 2024년 11월 15일 출간 국내도서 : 2024년 11월 15일 출간

작품소개

책소개

아트코리아랩총서는 정보통신기술이 예술 생태계에 가져온 변화의 본질과 현상을 소개한다. 새로운 기술의 내용, 창·제작에 활용하는 방법, 유통과 향유의 변화, 기술이 낳은 여러 가지 쟁점과 해결 방안을 다루고 있다. 이 책은 총서 8권으로 인공지능과 예술의 윤리적 관계를 다루면서 창작과 기술의 융합이 가져올 다양한 쟁점을 짚어본다. 장르별 윤리 이슈, 데이터 사용 기준, 편향성 비판과 저작권 문제, 에이전트로서의 인공지능 같은 다양한 주제를 통해 창작과 사회적 책임의 균형을 만들어 간다. 이 책을 통해 독자들은 인공지능 예술 창작에 필요한 윤리적 접근 방식을 배우고, 더 나은 예술 실천을 위한 통찰과 아이디어를 얻을 수 있다.

목차

예술이 묻고 인공지능 윤리가 답하다
01 인공지능 일반의 윤리와 예술
02 장르별 윤리 이슈
03 창작의 데이터 허용 기준
04 창작을 위한 데이터 학습
05 편향성 비판과 감시 예술
06 저작권 이슈
07 인공지능 에이전트와 예술
08 디지털 예술 윤리 정신
09 인공지능 예술과 생태적 책임
10 창작 윤리 제언

책 속으로

한편 조각의 경우, 이탈리아의 스타트업 로보토르(ROBOTOR)가 있다. 로보토르는 대리석 조각품을 만드는 인공지능 로봇 1(one)을 개발했다. 아연 합금으로 만든 이 로봇은 한쪽 팔만으로 작품을 제작하며, 미켈란젤로가 2~3년 동안 만든 조각을 약 20일이면 완성한다고 한다. 로봇에 설치된 OR-OS라는 소프트웨어는 스스로 재료의 특성과 모서리, 모양을 스캔하여 워크 플로를 계획한 뒤 조각을 시작하며, 광택을 내는 연마 작업과 물을 뿜어 먼지를 털어 내는 일까지 스스로 처리한다. 이런 AI 로봇이 상용화되면 어떤 일이 벌어질까? 아마도 여러 사람이 함께 일해야 하는 공공 미술 분야에서 로봇이 보조 인력으로 투입될 가능성이 크다
02_“장르별 윤리 이슈” 중에서

만약 저작권자가 본인의 저작물이 AI 학습에 이용되었다는 사실을 뒤늦게 알게 되었더라도, 해당 저작물이 추가적으로 AI 학습에 이용되는 것을 방지하기 위하여 그에 반대하는 의사를 명시하거나 이를 방지하기 위한 기술적 조치를 취할 수 있다. 그 대표적 예가 1990년대 만들어진 로봇 배제 표준의 적용이다.
03_“창작의 데이터 허용 기준” 중에서

최근 스테이빌리티 AI(Stability AI) 회사는 예술가들이 스테이블 디퓨전 학습에 이용된 데이터 세트에서 작품을 검색할 수 있도록 했다. 스테이블 디퓨전은 인터넷에서 이미지를 스크래핑하여 구축된 오픈 소스 ‘LAION-5B 데이터 세트’를 기반으로 하는데, 여기에는 저작권이 있는 예술가들의 작품까지 포함되어 있다. 검색 결과를 확인한 예술가들은 AI 모델의 학습용 데이터에서 자신의 작품들을 제외하도록 선택하는 옵트 아웃(opt-out)을 할 수 있다.
03_“창작의 데이터 허용 기준” 중에서

알렉산더 레벤의 실험을 소개하자면, 그는 인공지능으로부터 얻은 이미지를 자신이 선호한다는 확신이 들 때까지 계측(이미지에 대한 작가 자신의 신체 반응을 과학적 수단을 통해 측정)하고 마침내 선택한 그 이미지를 익명의 화가들에게 전달해 그리게 한다. 그렇게 화가들이 그린 그림은 전문적으로 캡션을 만드는 인공지능으로 제목을 달아 준다. 이 과정에서 사용된 인공지능은 안면 인식 소프트웨어 스타일GAN(StyleGAN)이다. (중략) 이 작품의 경우, 스타일GAN이 초상권을 침해하지 않고도 비현실적이거나 실재하지 않는 얼굴들을 생성할 수 있었기 때문에 저작권 문제에서 자유롭다.
04_“창작을 위한 데이터 학습 ” 중에서

디지털 기술을 사용해, 정보 산업의 거대 권력이 대중을 효과적으로 감시하는 것에 맞서 대중이 역으로 감시할 수 있음을 보여 주는 예술가의 작업이 있다. 중국 작가 아지아오(aaajiao)는 쉬 원카이(Xu Wenkai)라는 이름으로도 활동하는 미디어 아티스트, 블로거, 운동가, 프로그래머다. 온라인에서 활발히 활동하는 아지아오는 쉬 원카이의 또 다른 얼굴, 즉 가상적 페르소나다.
05_“편향성 비판과 감시 예술” 중에서

이에 대해 저작권청은 “미드저니의 사용자가 프롬프트를 입력하더라도 프롬프트가 지시보다는 제안에 가까우며 사용자가 이미지 생성에 대한 통제권을 갖지 못한다면 ‘주도적인 정신’으로 간주할 수 없다”(〈새벽의 자리아〉 저작권에 대한 미국 저작권청의 서한, 2023)고 반박했다. 여기서 ‘통제권을 갖지 못한다’는 것은 인공지능의 블랙박스 과정에 대해 저작자가 통제할 수 없다는 의미를 포함한다. 이러한 논거로 저작권청은 미드저니의 이미지 생성 과정을 검토 후 작품의 기존 등록을 취소하고 부분적으로만 신규 등록했다. 즉, 카슈타노바의 텍스트와 AI로 생성한 그림에 대한 편집 저작물(이미지 선택, 배열, 조정)만 저작권으로 인정했다.
06_“저작권 이슈 ” 중에서

예술가를 대신해 창작에 필요한 이미지를 생성하거나 사운드 등 다양한 창작 결과물을 생성하는 인공지능을 에이전트로 본다는 것은 하나의 기계(도구)라기보다 예술가의 보조 역할을 하는 ‘행위자’로 대하는 셈이다. 예술 작업을 수행하는 행위자로서 인공지능의 ‘자율적·자동적’ 생성 능력은 창의적인 결과물을 구성하는 데 예술가를 보조할 뿐만 아니라 색다른 영감을 주기도 한다. 과거 미디어아트의 매체와 확연하게 변별해 주는 이러한 능력은 딥러닝 기술을 실험하는 예술들에서 찾아볼 수 있다.
07_“인공지능 에이전트와 예술” 중에서

인공지능을 사용하는 창작자들에게 중요한 것은 단지 기술이 예술 언어가 되는 것만이 아니다. 이러한 기술이 우리 삶에 어떤 영향을 미치고 있는가에 대해서도 인식할 필요가 있다. 인공지능 기술에 의해 우리의 삶이 변화하기 때문이다. 생태적 환경, 노동, 감정 등의 분야에 퍼져 있는 이러한 변화에 대한 고찰은 동시대 예술가들의 창작에도 영감을 주리라고 생각한다.
09_“인공지능 예술과 생태적 책임” 중에서

출판사 서평

인공지능 예술의 윤리 기준 제시, 창작과 책임의 균형 탐구

인간 창작자의 의도에 따른 기존 기계 예술과 다른 생성형 인공지능 예술이 직면한 모든 윤리 문제 총정리
창작 주체와 저작권, 그리고 책임의 문제까지 적합한 사례와 대응 방안 제시

20세기 기계는 예술가들에게 새로운 창조의 도구이자 예술적 영감을 주는 대상이었지만 기계 스스로 아이디어를 생성하는 차원은 아니었다. 즉, 기계를 통해 인간처럼 드로잉이나 예술적 퍼포먼스를 하게 하더라도, 그것은 대부분 작가가 기계를 예찬하거나 그 반대로 기계 시대에 저항하기 위한 목적에서 사용된 것이었다. 1959년 장 팅겔리(Jean Tinguely)의 〈메타-마틱(Méta-Matics)〉이 그 대표적 예다. 〈메타-마틱〉은 전기 모터로 드로잉하는 기계다. 팅겔리는 스케치하고 그림 그리는 역할을 오로지 기계에 위임했고, 기계는 “무계획적이고 의미 없고 정신이 깃들지 않은 행위를 통해 당대 예술가들과 유사한 구조의 작품”을 구현했다. 기계가 분명 인간 예술가를 대신해 퍼포먼스를 했지만, 아이디어를 기계 스스로 낸 것도 아니며, 작품이 진행되는 모든 과정과 결과에 대해 순전히 인간 예술가가 책임을 지면 되었다.
오늘날 생성형 인공지능으로 불리는 챗GPT를 이용해 생산하는 작업은 〈메타-마틱〉과는 다르다. 생성형 인공지능이란 예술가가 프롬프트를 주면 인공지능이 스스로 데이터를 학습해 저자의 아이디어를 발전시키는 방식이다. 이런 점에서 인간과 기계의 협업이라는 표현은 인공지능을 인간과 공동의 목적을 구축하는 에이전트 혹은 하이브리드 저자로 보는 관점을 취한다고 할 수 있다.
그런데 만약 인간이 개입하지 않은 채 진행된 부분에서, 즉 소프트웨어가 생성한 내용 가운데 다른 사람의 작품 스타일이나 내용이 표절되었다고 한다면, 누구에게 그 윤리적 책임을 물어야 하는가? 인공지능이 윤리적 문제를 일으킨 것은 사실상 인공지능 프로그램을 설계하고, 편향된 데이터를 입력한 인간의 윤리 문제다. 이제 우리는 인공지능 앞에서 우리 자신을 돌아보아야 한다.
이 책은 인공지능 예술 창작에 관심이 있는 모든 사람에게 미래에 도래할 문제에 대한 책임의 윤리를 제안한다. 먼저 인공지능 일반의 윤리와 예술적 윤리를 살펴보고, 장르별 윤리 이슈, 창작의 데이터 허용 기준, 편향성 비판, 디지털 예술 윤리 정신, 저작권, 생태적 문제 같은 주제를 살펴 보고 윤리 이슈에 관한 구체적인 사안을 짚어 본다. 독자는 이 책의 다양한 이론적 근거와 사례를 통해 인공지능 예술 창작에서 발생하는 윤리 문제를 예방하는 혜안을 갖고 되고 동시에 동시대 예술 언어를 확장하는 통찰을 얻게 된다.

작가정보

저자(글) 유현주

한남대학교 인문과학연구소 학술연구교수다. 홍익대학교에서 “아도르노 미학에서의 기술(Technik)” 이론으로 박사학위를 받았다. 2013년 생태미학예술연구소를 설립하고 생태, 예술, 환경, 기술을 키워드로 생태 미학에 관한 연구를 하면서 다양한 전시와 세미나를 기획했다. 과학 융복합 전시기획으로 2017년 한국화학연구원에서 주최한 ‘기후변화대응화학예술특별전: 화성에서 온 메시지’가 있다. 2021년 국립현대미술관에서 기획한 한국생태미술 조사연구사업의 책임연구원을 맡았다. 주요 저서로 『대중문화와 미술, 수백 개의 마릴린 먼로와 수천 개의 모나리자』(2014), 『인공지능시대의 예술』(공저, 2019), 『한국생태미술의 흐름과 현재』(공저, 2021)가 있다. 주요 논문으로 “아도르노 기술 개념에서 본 디지털 시대의 예술”, “생태미학에서의 ‘지속가능성(Sustainability)’ 개념 연구-Sacha Kagan의 지속가능성 개념을 바탕으로”가 있다.