[특집2] 멋진 신세계(Brave New World) 속 디지털 젠더 폭력

• 영문명: Coded Gender-Based Violence in a Brave New World
• 발행기관: 헌법재판연구원
• 저자명: 랑기타 드 실바 드 알위스
• 간행물 정보: 『헌법재판연구』제10권 제2호, 177~218쪽, 전체 42쪽
• 주제분류: 법학 > 법학
• 파일형태: PDF
• 발행일자: 2023.12.26

국문 초록

본 발표문은 새로운 연구를 통해 디지털 폭력을 포함하는 여성에 대한 폭력 방지법을 만들어야 한다고 제안한다. 대형 언어 모델(Large Language Models, "LLM")과 생성형 인공 지능(AI)을 비롯한 인공지능 혁명을 고려할 때, 인공지능은 계속해서 힘의 불균형을 만들고, 젠더 폭력의 범주가 진화하는 데 기여한 다. 이 발표문은 여성에 대한 디지털 폭력의 세 가지 측면을 설명한다: 1) 디지털 영역에서의 익명성이 폭력을 조장한다; 2) 온라인 플랫폼을 통해 가까워진 지리적 거리로 인해 가해자가 멀리서도 학대 행위 를 할 수 있다; 3) 기술이 제공하는 자동화 기능이 학대 행위의 범위와 영향을 증폭시킨다. 직접적이고 물리적인 성폭력 행위는 온라인과 오프라인에서 다르게 나타나나 비슷한 점이 있다. 첫째, 두 행위는 근 원적으로 같은 구조적 원인을 공유한다. 둘째, 여성이 폭력적인 온라인 환경을 자유로이 떠날 수 있다는 주장은 온라인상 여성의 집회와 표현의 자유를 부정하는 것이다. 개별적인 모든 온라인 폭력 행위가 법 적으로 문제가 되는 것은 아니지만, 이러한 행위를 통해 부각되는 진화하는 폭력 범주에 대한 국제 여성 인권 규범의 역동적인 적용과 새로운 형태의 담론의 필요성에 주목해야 한다. 이름 붙여 주기(naming)에는 법적, 사회적 규범을 바꿀 수 있는 힘이 있다. 이 발표문의 제목은 MIT 미디어 랩(MIT Media Lab)의 "알고리즘 기반의 편견(Coded Bias)"에 관한 연구 내용에서 차용했다. "멋진 신세계(Brave New World)"라는 문구는 과학적 발전으로 가득 찬 디스토피아 사회에 관한 올더스 헉슬 리(Aldous Huxley)의 소설에서 차용했다. 디지털 젠더 폭력은 다양한 양상을 띤다. 페이스북(Facebook)의 전신인 페이스매쉬(FaceMash)는 2003년 페이스북 창시자 마크 저커버그(Mark Zuckerberg)가 개발한 것으로, 미국 엘리트 대학에 재학 중인 여성의 외모를 비교하기 위해 개발되었다. 이 발표문은 디지털 젠더 폭력을 해결하기 위해 인권 이론, 비판적 젠더 이론(critical gender theory), 비판적 정보 이론(critical information theory)의 적용을 요구한다. 비판적 정보 이론은 권력 관계의 비대칭성을 탐구하여 구조 이 면에 숨겨진 권력 불평등을 드러낸다. 비판적 정보 이론은 편향된 데이터에 주목할 뿐만 아니라 정보를 사용하는 구조가 특정 사용자 그룹에 위축 효과를 발생시키는지 살핀다. 디지털 젠더 폭력(기술 기반 폭 력이라고도 함)은 다음과 같은 영향을 준다: 1) 현실 세계와 가상 세계의 경계를 흐림으로써 여성과 소수 자를 대상으로 한 온라인 괴롭힘과 학대가 현실 세계로 번져 신체적, 정신적 폭력이 발생한다; 2) 디지털 및 인터넷 기술이 어디에나 퍼져 있어 폭력으로부터 자유를 원하는 여성의 능력을 약화시키고 가해자가 '어디에나 존재'하게 한다; 3) 디지털 젠더 폭력은 그 특성상 개인적이면서도 구조적인 문제이다.

영문 초록

This paper proposes that new research must shape anti-violence against women laws that include coded v iolence. Given the AI revolution, including large language models ( “LLMs” ), and generative artificial intelligence, AI continues to create power disparities and help facilitate gender-based violence as an evolving category of violence. The paper illustrates three aspects of coded violence against women: 1) The veil of anonymity provided by the digital realm facilitates violence; 2) The geographical distance facilitated by online platforms allows offenders to engage in abusive conduct from afar; and 3) The automation capabilities offered by technology amplify the scope and impact of abusive behavior. Although the direct physical act of sexual violence differs between online and offline worlds, there are similarities. Firstly, both acts share the structural causes that lie at the root of such conduct in the first place. Secondly, the defense that women and girls are free to exercise the option to leave an abusive online environment denies women’s and girls’ free exercise of rights to assembly and expression in the online public square. In the final analysis, although not all isolated acts of online violence meet a legal threshold, we need to see these acts as a part of a continuum of violence that call for new forms of discourse and a dynamic application of international women’s human rights norms into evolving categories of violence.

키워드

디지털 젠더 폭력 비판적 젠더 이론 비판적 정보 이론 여성차별철폐협약 인권 생성형 인공지능 대형 언어 모델 딥페이크 Coded Gender Violence Critical Gender Theory Critical Information Theory, CEDAW human rights Generative Artificial Intelligence (AI) Large Language Models (LLMs) Deepfakes.