한국 스켑틱 SKEPTIC vol. 38 : 인공일반지능AGI, 유토피아 혹은 디스토피아?

스켑틱 편집부 지음

바다출판사 2024년 06월 10일 출간

작품소개

책소개

일반인공지능, AGI의 도래? 인류에게는 유토피아인가, 디스토피아인가? 생성형 AI의 블랙박스를 들여다보는 법. AI 의사 결정을 신뢰할 수 있을까? AI와 인간의 마음은 어떻게 다른가? 인류는 AI를 안전하게 관리할 수 있을까? 일론 머스크 X 영국 총리 리시 수낵 대담. 기후 변화 시대, 새로운 에너지원에 대한 담대한 상상. 생명의 관점에서 본 통증의 의미. 모두를 위한 유전자 치료제는 가능한가? 이번 38호에는 기후로 보는 한국사, 조선 후기의 대기근과 정조의 영민함 등 흥미로운 기사로 가득하다.

목차

목차
Column
강한 턱이 건강한 웃음을 만든다 – 피터 S. 엉거
파리를 휩쓴 공포 다시 보기 – 로버트 E. 바살러뮤

Theme
조선 후기의 대기근과 정조의 영민함 – 박정재
성공에도 공식이 있을까 – 오후

Special Section 일론 머스크 X 영국 총리 리시 수낵 대담
인류는 AI를 안전하게 관리할 수 있을까 – 일론 머스크, 리시 수낵

Cover Story 인공일반지능AGI, 유토피아 혹은 디스토피아?
AGI, 머지않은 미래 – 정지훈
AGI를 향한 어두운 길목들 – 피터 카산
AGI가 인간의 실존을 위협할 거라고? - 마이클 셔머
AI 의사결정의 결정적 문제들 – 우르스 가서, 빅토어 마이어-쇤베르거
불확실성, AI의 블랙박스를 열다 – 매기 잭슨
사람의 마음, AI의 마음 – 러셀 T. 원
AI가 왜 인간을 닮아야 하는가 – 뤼디 판벨콤

News&Issues
대마초 합법화 중간 점검 – 존 D. 반 다이크

집중연재
동물의 가계도, 뇌 기원의 가계도 – 이대한
단 한 명을 위한 치료제를 위하여 – 조동현
뿌리내림의 조건 – 김상규

Focus 새로운 에너지원을 상상하라
화석 연료의 과거와 미래 – 도널드 R. 프로세로
해가 지지 않는 우주, 태양광 발전의 새로운 도전 – 롭 마한
수소, 지속 가능성의 새로운 조건 – 박현서
핵융합, 지구에서 태양 만들기 – 나용수

Agenda&Articles
나는 아프다, 고로 존재한다 – 우충완
다빈치가 상대성 이론을 예견했다고? - 호세 마리아 곤잘레스 온디나

출판사 서평

▶ AGI, 머지않은 미래
▶ AGI를 향한 어두운 길목들
▶ AGI가 인간의 실존을 위협할 거라고?
▶ 일론 머스크 X 영국 총리 리시 수낵 대담
▶ 조선 후기의 대기근과 정조의 영민함
▶ 동물의 가계도, 뇌 기원의 가계도
▶ 새로운 에너지원을 상상하라
▶ 핵융합, 지구에서 태양 만들기
▶ 나는 아프다, 고로 존재한다

일반인공지능, AGI의 도래? 인류에게는 유토피아인가, 디스토피아인가? 생성형 AI의 블랙박스를 들여다보는 법. AI 의사 결정을 신뢰할 수 있을까? AI와 인간의 마음은 어떻게 다른가? 인류는 AI를 안전하게 관리할 수 있을까? 일론 머스크 X 영국 총리 리시 수낵 대담. 기후 변화 시대, 새로운 에너지원에 대한 담대한 상상. 생명의 관점에서 본 통증의 의미. 모두를 위한 유전자 치료제는 가능한가? 기후로 보는 한국사, 조선 후기의 대기근과 정조의 영민함 등 흥미로운 기사로 가득한 스켑틱 38호.

▼ 커버스토리 : 인공일반지능AGI, 유토피아 혹은 디스토피아?
지난 5월 13일 오픈AI의 GPT-4o가 공개됐다. 전작과는 다르게 영상과 사진을 통해 인간과 실시간으로 소통하는 모습은 사람들의 탄성을 자아냈다. 거기에 더해 인간의 감정을 이해하고 그에 맞춰 자신의 반응을 조절하는 모습은 영화 <허Her>를 떠올리게 한다. 이제 인공일반지능Artificial General Intelligence, AGI의 도래가 머지않았다는 걸 암시하는 것일까? 그 어느 때보다 기술이 빠르게 변화하고 있는 지금, 과연 AGI는 곧 다가올 미래일까? 그리고 AGI는 우리 인간에게 어떤 의미일까? AGI의 가능성에서 인간과 공존을 위한 필요조건까지, 이번 호 커버스토리에서는 AGI의 문제를 종합적으로 살펴본다.

AGI, 멀지 않은 미래?
좁은 인공지능 혹은 약한 인공지능으로 불리는 특수 지능을 넘어 인간과 같은 일반 지능을 구현한 AGI는 가능한 미래일까? 미래학자 정지훈은 ‘AGI, 머지않은 미래’에서 특정 도메인에 특화된 AI 모델들을 결합한 MoE, 서로 협업하고 스스로 진화하는 AI 에이전트의 협업, 뉴로심볼릭 등 대형언어모델LLM 이후의 변화에 주목하면서 인류가 AGI로 향하는 주요한 길목들을 점검한다. 그는 AGI라는 목표 달성 자체에는 이견이 거의 없다며 AGI가 노동, 노화, 기후 위기, 관계 등 인간의 삶 전반에서 혁신적인 변화를 가져올 것이라고 전망한다. 반면 피터 카산은 ‘AGI를 향한 어두운 길목들’에서 현재의 AI가 보이는 이해력’은 유사 이해력일 뿐이며 통계적 조합에 불과할 뿐이라고 지적하며 우리가 의식을 AI로 구현할 수 없는 한 AGI가 그저 먼 미래일 뿐이라고 주장한다. 또한 미래학자 뤼디 판벨콤은 ‘AI가 왜 인간을 닮아야 하는가’에서 왜 기계가 인간을 닮아야 하는지 더 본질적인 질문을 제기한다. 잠수함은 물고기처럼 헤엄치지 않고, 비행기는 새처럼 날지 않는데, 왜 컴퓨터는 인간처럼 ‘생각’을 해야 한다고 여기는 걸까? 그는 AI 개발에 앞서 지능 그 자체를 목적으로 여기기보다는 어떤 목적으로 지능형 기계를 우리가 사용할 것인지 스스로 물어야 한다고 강조한다.

AGI의 시대, 유토피아인가, 디스토피아인가?
AI의 선구자 엘리저 유드코프스키Eliezer Yudkowsky는 오래전부터 AI의 잠재적 위험에 대해 경고해 오고 있다. 인간보다 뛰어난 인공지능의 등장이 인류를 파멸의 길로 인도할 것이라고 말이다. 그는 AI 최근의 발전을 조망하며 다음과 같이 읊조린다. “우리는 준비되어 있지 않다. … 이대로 가다간 우리 모두 죽게 될 것이다.” 이와 같은 AI 디스피아론을 가장 잘 보여주는 건 닉 보스트롬의 ‘종이 클립 최대화 기계’ 사고실험이다. 보스트롬은 종이 클립을 만드는 목표를 가진 AI가 계속 발전해 스스로를 통제할 수 있게 된다면 인간은 물론 지구 자원을 모두 종이 클립으로 바꿔놓을 것이라고 경고한다. 반면 AI 유토피아론자들은 AGI와 같은 초인공지능이 인류에게 그전과는 비교할 수 없는 풍요와 자유를 선사할 것이라고 기대한다. 인간의 지능보다 더 뛰어난 범용 지능 AGI의 등장은 인간에게 유토피아일까, 디스토피아일까? 대표적인 회의론자 마이클 셔머는 AI 유토피아론이 지나치게 낙관적이고 상당히 종교와 비슷하다고 비판한다. 셔머는 인간에게 있어 감정의 역할에 주목하며 디스토피아론 역시 그럴듯하지 않다고 말한다. 셔머는 디스토피아론의 내적 모순과 기술 진화에 근거해 다가올 미래가 프로토피아에 가까울 것이라고 전망한다.

생성형 AI의 블랙박스와 의사결정의 문제
이제 인류는 자신의 인지적 한계를 뛰어넘어 일종의 정신적 보철물이라고 할 수 있는 생성형 기계에 의사결정을 위탁해 능력을 향상시키고자 한다. 과연 기계에 기반한 의사결정이 더 나은 미래를 선물할 수 있을까?
그런데 AI가 타고난 보수주의자라면? 기술사회학자 우르스 가서와 빅토어 마이어-쇤베르거는 ‘AI 의사결정의 결정적 문제들’에서 빅데이터에 기반한 의사결정 최적화의 역설을 지적한다. 우리의 의사결정을 모두 기계에 의존하는 세상을 상상해 보자. 더 많은 기계가 우리의 선택을 결정할수록 그 결과들은 기계학습 데이터의 원천이 될 것이고, 결국 선택과 행동의 다양성은 줄어들 게 될 것이다. 저자들은 인류 진보의 길이 미친 아이디어를 쫓는 끈질긴 땜장이들의 묘비와 함께 조성됐음을 기억해야 한다고 지적하면서 과도한 의사결정의 위임에 주의가 필요하다고 주장한다.
AI 의사결정의 또 다른 문제는 생성형 AI의 추론이 블랙박스와 같다는 것이다. 학습을 통한 수많은 매개변수의 조합의 결과를 일일이 인간이 추적하기란 사실상 불가능에 가깝다. 프로그래머도 자신이 창조한 AI가 왜 그와 같은 판단을 내렸는지 파악할 수 없는 상황이다. 생성형 AI가 늘 좋은 추론을 내놓더라도 무언가가 늘 찜찜할 수밖에 없다. 기술 저널리스트 매기 잭슨은 ‘불확실성, AI의 블랙박스를 열다’에서 AI 추론의 불투명성으로 인한 불신의 문제를 다루며 불확실성이 인간과 AI의 상호 작용 문제를 해결하는 데 핵심이라고 주장한다. 그는 기계에 확실성을 부여하고자 했던 전통과 달리 불확실성을 내재화하고 이를 표현하는 AI라야 궁극적으로 인간과 소통이 가능해지고 인간의 목표와 조화를 이룰 수 있다고 강조한다.

사람의 마음과 AI의 마음
구글의 엔지니어 블레이크 르모인Blake Lemoine은 자신이 개발한 람다LaMDA에게 쾌고감수력sentience이 있다고 주장했다. 다시 말해 람다에게 “느낌, 감정, 주관적 경험이 있다”라고 주장한 것이다. 르모인의 주장처럼 생성형 AI는 인간과 같은 마음을 가질 수 있을까? 인간의 지능을 연구하는 심리학자 러셀 T. 원은 사람과 AI의 마음을 대비하면서 AI의 한계가 마음에 대한 우리의 한계를 드러낸다고 말한다. 놀라운 언어 능력에도 불구하고 어처구니없는 생성형 AI의 실수 등을 볼 때 르모인의 주장처럼 람다가 쾌고감수력을 갖고 있다고 보기는 어려워 보인다. 하지만 조금 더 정교히 LLM을 손봐 람다의 어색한 반응들을 교정해 완벽히 튜링 테스트를 통과할 수 있다면, 람다에게 쾌고감수력이 없다고 주장할 수 있을까? 철학자와 과학자가 수 세기 동안 고심했지만 우리는 여전히 의식에 대해 많은 것을 알지 못한다. 그러므로 AI 프로그램이 쾌고감수력을 지닐 수 있는지에 대한 문제는 불확실성으로 가득하다. 흥미롭게도 AI의 한계는 마음에 대한 우리의 이해의 한계를 여실히 드러낸다.

일론 머스크 X 영국 총리 리시 수낵 대담
▼ 스페셜 : 인류는 AI를 안전하게 관리할 수 있을까?
AI 개발에 대한 우려가 커지면서 2023년 11월 1~2일, 영국 정부는 28개국 대표와 AI 분야 비즈니스 리더들이 참석한 가운데 사상 처음으로 AI 안전에 관한 정상 회담을 개최했다. 2차 세계 대전 당시 튜링이 독일의 에니그마를 해독했던 블레츨리 공원에서 열린 이 회담에는 미국, 중국, EU와 같은 주요 국가 정상들은 물론 테슬라와 스페이스X를 이끄는 기업가 일론 머스크도 참여했다. 영국의 총리 리시 수낵과 일론 머스크는 공동의 노력을 통해 AI의 잠재적 위험을 이해하고 이를 함께 관리하면서 세계 공동체의 이익을 위해 안전하고 책임감 있는 방식으로 AI를 개발해야 한다는 공감대를 형성했다. 이번 스켑틱 스페셜 섹션에서는 영국 총리 관저에서 진행된 리시 수낵과 일론 머스크의 토론을 만나볼 수 있다. ‘보편적 고소득’이라는 낙관과 AI 안전에 대한 세계적 규제가 필요하다는 염려가 교차하는 머스크의 시선 속에서 AI 시대를 맞이한 우리 사회가 어디로 향하는지 가늠해 볼 수 있다.

▼ 포커스 : 새로운 에너지원을 상상하라
화석 연료에서 새로운 에너지원으로의 대전환은 이제 당위의 문제가 아니라 생존의 문제가 되었다. 이대로 화석 연료를 소비하다 인류는 우리 세대에서 종말을 맞이할지도 모른다. 지구의 기온 상승을 2.5도로 제한하기 위해서 새로운 에너지로의 전환은 이제 시대의 과제가 되었다. 그럼에도 새로운 에너지원에 대한 논의는 대개 신재생 에너지와 원자력 에너지의 구도 속에서 정쟁으로 흐르고 만다. 과학에 기반한 담대한 상상이나 생산적인 토론보다는 이념의 구도 속에서 감정싸움으로 흐르기 일쑤이다. 하지만 인류가 위기에 처할 때 인류를 구원한 건 정치적 이념보다는 기존의 틀을 깨는 상상력이었음을 명심할 필요가 있다. 이를 위해 이번 호 포커스에서는 화석 연료의 과거에서부터 우주 기반 태양광 발전, 수소 에너지의 가능성, 그리고 무한한 에너지를 제공할 수 있는 인공 태양의 가능성까지, 기존의 틀을 깨는 담대한 스케일의 새로운 에너지원을 조망해 보고자 한다.

▼ 조선 후기의 대기근과 정조의 영민함
“연산의 깊은 골짜기에 사는 노비 순례가 그의 다섯 살 된 딸과 세 살 된 아들을 죽이고 이들의 인육을 먹었다는 흉흉한 소문이 돌았습니다. 같은 마을 사람이 이 말을 듣고 직접 가서 사실 여부를 물었더니 그녀는 ‘아들과 딸이 병 때문에 죽었다. 자신 또한 큰 병을 앓고 굶주리던 중에 자식의 시체를 삶아 먹었다. 하지만 먹기 위해 죽인 것은 절대 아니다’라고 하였다 합니다.” 《현종실록》 현종 12년 3월 21일의 기록 중 일부다. 1670년부터 시작된 기근이 1671년 봄에는 더욱 심해지자 자식의 인육을 먹는 패륜까지 발생한 것이었다. 경술년과 신해년에 일어났다고 해서 ‘경신대기근’이라고 불리는 이 사건은 조선 왕조를 통틀어 가장 참혹한 기근이었다. 그리고 얼마 지나지 않은 숙종 때에도 경신대기근에 필적하는 을병대기근이 이어졌다. 이때도 많은 백성이 굶주림과 역병으로 죽음을 맞이했다. 17세기 후반의 조선을 뒤흔든 두 대기근은 도대체 왜 발생한 것일까?
서울대학교의 지리학자 박정재 교수가 새롭게 시작하는 연재 ‘기후로 보는 한국사’를 통해 기후의 눈으로 한국사를 다시 읽는다. 그는 인간사의 많은 부분이 기후가 결정했음을 주장하며, 이는 한국사 역시 다르지 않다고 말한다. 그에 따르면 두 대기근은 태양 흑점 수의 변화와 화산 폭발로 인한 일사량 감소의 결과였다. 두 요인은 꾸준히 조선 후기 기후 변화를 주기적으로 추동하였고 그때마다 사회에는 큰 혼란이 야기됐다. 그렇다면 늘 인간 사회는 기후에 의해 ‘결정’됐을까? 박 교수는 정조의 사례를 통해 통치와 인간 사회의 가능성을 엿본다. 1782년부터 1788년까지 이웃 일본은 덴메이대기근으로 사회가 극심한 혼란에 휩싸였을 무렵 정조가 통치하던 조선은 큰 위기 없이 평화로운 시기를 누렸다. 과연 정조의 비법은 무엇이었을까?

▼ 단 한 명을 위한 치료제는 개발 가능한가?
발전을 거듭한 크리스퍼는 이제 실험실을 넘어 의료 영역으로 넘어오면서 희귀 유전 질환 치료의 희망이 되고 있다. 이제 진정한 개별 의료의 시대라고 할 수 있을까. 희귀 질환을 가진 단 한 명을 위한 치료제를 개발하는 실제 사례가 하나둘 나타나면서 유전 질환의 정복이 목도에 온 듯하다. 하지만 현장에서 유전 질환 환자를 치료하며 과학 연구를 하고 있는 조동현 교수의 눈에는 넘어야 할 산이 산재해 있다. 물론 유전자 치료제가 이제 시작 단계이기는 하지만, 사업성과 수익성, 환자의 국가, 인종 등의 기준에 의해 선택되는 유전자와 선택받지 못하는 유전자가 나뉘는 문제는 지속될 가능성이 높다. 유전 질환의 본성상 환자는 소수일 가능성이 높기에, 치료가 가능하더라도 여러 이유에서 선택받지 못한 유전자를 가진 환자는 치료를 받지 못하게 될지 모른다. 유전자 치료 시대의 여러 고민을 서울대학교 의대 해부학교실 조동현 교수의 ‘단 한 명을 위한 치료제를 위하여’에서 함께 나눠본다.

▼ 동물의 가계도, 뇌 기원의 가계도
성균관대학교 진화유전학자 이대한 교수가 ‘뇌의 진화’라는 가장 근본적인 주제로 돌아왔다. 새롭게 시작하는 집중연재 ‘뇌의 출현, 생명의 가장 깊은 비밀’에서 이대한 교수는 동물의 가계도를 돌아보면서 왜 지금과 같은 우리의 뇌가 진화했는지 추적한다. 그 첫 번째 ‘동물의 가계도, 뇌 기원의 가계도’에서는 좌우대칭동물군과 비좌우대칭동물군이 분기하는 시점으로 돌아가 왜 좌우대칭동물군에서만 신경계가 아니라 집중화된 뇌가 진화했는지 추적한다. 이 교수는 생물 체제의 변화가 외부 정보를 다루는 방식을 근본적으로 바꾸었기에 지금과 같은 ‘뇌’가 진화할 수 있었다고 주장한다.

그 밖에 《스켑틱》 38호
- 칼럼니스트 오후가 ‘성공에도 공식이 있을까‘에서 최근 ‘핫’하게 뜨고 있는 테무의 사례를 통해 성공 공식을 표방하는 자기계발의 문제를 짚어본다.
- ‘강한 턱이 건강한 웃음을 만든다’에서 고인류학자이자 진화생물학자 피터 S. 엉거 교수가 부정 교합과 같은 치아 질환이 현대 사회에 많아졌는지 고인류학과 진화의 관점에서 추적한다.

작가정보

저자(글) 스켑틱 편집부