우리는 미래를 가져다 쓰고 있다

윌리엄 맥어스킬 지음 | 이영래 옮김

김영사 2023년 04월 25일 출간 국내도서 : 2023년 04월 24일 출간

작품소개

책소개

인공지능 시스템 탈선을 우려하는 시대, 핵탄두 수천 기가 발사 대기 중인 시대, 화석연료를 태우며 수십만 년 지속될 오염물질을 만들어내는 시대, 팬데믹이 전 세계를 휩쓸어버린 시대, 그러나 동시에 이 모든 것에 대응하고 미래를 더 나은 방향으로 틀 수 있는 시대에 우리는 살고 있다. 장기적으로 생각하고 지금 당장 행동할 것을 촉구하는 ‘장기주의’ 철학으로, 우리가 지금 겪고 있는 이 문제들을 바라보는 관점과 문제 해결의 실마리를 제공한다.

목차

들어가며. 미래 세대만이 아닌 지금 우리에게도

1부. 장기주의: 미래를 바꾸는 것은 왜 중요한가
0장. 당신 앞의 거대한 미래: 5개월 된 아기의 시점에서
1장. 장기적 관점이 필요한 이유: 5억 년 이상의 미래를 책임지는 일
2장. 미래 가치를 측정하는 기준: 중대성, 지속성, 우발성

2부. 수백만 번의 선택들: 우리는 도덕적으로 발전해왔는가
3장. 중대하지만 우발적인 변화: 노예제 폐지의 역사
4장. 영원히 지속될지도 모르는 변화: 인공지능의 세계

3부. 파괴적인 시나리오: 어떻게 멸망에 이르는가
5장. 인간 멸종의 위험: 유전자조작 전염병이 발생할 가능성
6장. 문명 붕괴의 위험: 핵전쟁과 기후변화의 가능성
7장. 기술 정체의 위험: 발전의 속도가 정체될 가능성

4부. 우리가 상상할 수 있는 미래
8장. 사람들을 행복하게 만드는 것이 선인가
9장. 미래는 좋을 것인가, 나쁠 것인가

5부. 지금 우리가 해야 할 일
10장. 당신 뒤의 거대한 미래

나가며. 해야 할 일이 너무나 많다

감사의 말
부록
그림 출처
주
찾아보기

책 속으로

모든 미래의 삶을 살게 된다면, 당신은 현재의 우리가 무슨 일을 하길 원하는가? 우리가 공기 중에 이산화탄소를 얼마나 배출하길 원하는가? 우리가 연구나 교육에 얼마나 투자하길 원하는가? 미래를 망치거나 영원히 탈선시킬 수 있는 새로운 기술에 얼마나 신중하길 원하는가? 오늘의 조치가 장기적으로 미치는 영향에 얼마나 주의를 기울이길 원하는가?_20쪽

장기주의란 장기적인 미래에 긍정적 영향을 주는 것이 우리 시대에 도덕적으로 가장 우선해야 할 일이라는 생각이다. 장기주의는 미래가 얼마나 거대할 수 있는지, 미래의 방향을 정하는 일에 얼마나 많은 위험이 따르는지 진지하게 받아들이는 것이다. (…) 지금 우리가 하는 일이 말로 다 할 수 없이 많은 미래 사람들에게 영향을 미친다. 우리는 현명하게 행동할 필요가 있다._20~21쪽

미래의 사람들은 중요하다. 하지만 우리는 그들에게 좀처럼 가치를 두지 않는다. 그들은 투표를 할 수도, 로비를 할 수도, 공직에 출마할 수도 없다. 미래의 사람들은 우리와 협상도, 거래도 할 수 없다. 미래의 사람들은 자신의 견해를 직접 들려줄 수 없다. 트윗을 올릴 수도, 신문에 기사를 쓸 수도, 거리에서 행진을 할 수도 없다. 미래의 사람들은 모든 권리를 박탈당한 상태다.(27쪽)

우리는 노예제 폐지가 우발적인 사건이었다는 놀라운 생각에 마음을 열어두어야 한다. (…) 노예제의 종말을 불러온 것은 사상가, 작가, 정치가, 노예 출신 운동가, 노예 반란자의 행동이다. (…) 노예제 폐지는 정해진 운명이 아니었고, 역사가 다르게 진행됐다면 지금 우리는 합법적으로 허용된 광범위한 노예제가 존재하는 세상에 살고 있었을지도 모른다._110~111쪽

오늘날의 사회가 갖고 있는 도덕규범을 개선하는 데 성공한다면, 그 영향력은 얼마나 오래갈까? 종교적·도덕적 운동의 역사는 그 영향이 수백 년, 심지어는 수천 년 동안 계속된다는 것을 말해준다. 그렇다면 우리의 영향력이 그보다 더 오래 지속될 가능성은 없을까?_115쪽

초지능 범용 인공지능이 우리 모두를 죽인다 해도 문명은 끝나지 않을 것이다. 사회는 디지털 형태로, 범용 인공지능의 가치관이 인도하는 대로 지속될 것이다. 그렇다면 첨단 범용 인공지능에 의한 세상으로서 전환을 다룰 때의 문제는 문명의 지속 여부가 아니라 어떤 문명이 지속되는가다._135쪽

세상을 어떻게 개선해야 할지 생각할 때의 첫 단계는 어떤 문제부터 착수해야 할지 결정하는 것이다. 선을 행할 방법을 결정할 때면 사람들은 가장 마음이 끌리는 문제에 먼저 집중하곤 한다. 가장 두드러지는 문제에 집중하는 사람들도 있다. 하지만 당신의 목표가 가능한 한 많은 선을 행하는 것이라면, 이런 직감은 좋은 길잡이가 되지 못한다._321쪽

지금은 미래를 더 나은 궤도로 조종하는 데 우리가 중추적 역할을 할 수 있는 시대다. 우리 세대만을 위해서가 아니라 우리 자녀들의 세대를 위해서가 아니라, 아직 오지 않은 모든 세대를 위한 운동을 일으키기에 지금보다 좋은 시대는 없다._349쪽

출판사 서평

★《냉정한 이타주의자》 윌리엄 맥어스킬 신작
★최재천 교수 추천
★뉴욕타임스 베스트셀러

‘장기주의’ 관점은 왜 필요한가
윌리엄 맥어스킬의 더 오래 더 많은 사람의 행복을 위한 긴 성찰

열정에만 기대는 이타적 행위가 효과도 없고 심지어 해악이 될 수도 있음을 실증하면서 자선사업과 기부문화에 일대 혁신을 일으킨 옥스포드대학교 철학과 교수 윌리엄 맥어스킬. 착한 행동을 하기에 앞서 얼마나 많은 사람들에게 얼마나 큰 혜택이 돌아갈지 이성적으로 따져봐야 한다는 그의 ‘효율적 이타주의’ 운동은 큰 반향을 일으켰다. 7년 만의 신작 《우리는 미래를 가져다 쓰고 있다》(원제: What We Owe The Future)는 효율적 이타주의에서 한 걸음 더 나아간 ‘장기주의(longtermism)’ 철학으로 우리가 집중해야 할 문제가 무엇인지, 당장 어떤 조치를 취해야 하는지 살펴본다.

최근 챗GPT가 부상하면서 인공지능 시스템 개발 방향에 대한 논의가 뜨겁다. 인간을 적으로 상정하고 해를 끼치겠다고 위협하며, 해킹으로 핵무기 엑세스코드를 확보하겠다고 호언장담하는 인공지능에 맞서, 인공지능 시스템 탈선 위험을 관리할 수 있는 안전장치가 마련될 때까지 개발을 일시 중단하자는 의견도 높다. 이 목소리의 근거가 되는 것이 바로 장기주의 관점이다. 장기주의는 미래에 긍정적 영향을 주는 것이 도덕적으로 가장 중요하다는 생각, 세계의 운명이 우리가 지금 하는 선택에 달려 있다는 믿음이다.

장기주의에 대한 흔한 비판 중 하나는 지금 당장의 시급한 문제를 제쳐두고 공상과학에 가까운 먼 미래를 상상하며 위험을 과대포장한다는 것이다. 인공지능의 질주가 과연 먼 미래의 일일까. 전문가들은 머지않아 인간 수준의 인공지능에 도달할 수 있을 것으로 예측한다. 우리 살아생전에 그 일이 일어난다는 의미다. 이런 위협들에 대처하는 게 너무나 긴급하기 때문에 단기적 우려와 장기적 우려 사이에서 적정성을 따질 필요조차 없다.

긴 시간이 지난 후에야 그 혜택이 실현될 수 있는 일을 해야 한다는 생각, 미래 사람들의 복지까지 고려해야 한다는 생각은 결코 헛된 생각이 아니다. 장기주의적 행동은 단기적인 이점도 가지고 있다. 설사 그렇지 않은 경우라도, 저자는 “미래 세대를 보호하는 것이 우리 시대에 다른 것들보다 우선하는 핵심적인 일이 되어야 한다”고 주장한다.

미래 세대를 위하는 길이 우리를 위하는 일이다
미래를 더 나은 방향으로 바꾸는 것이 중요한 이유

ㆍ미래 사람들은 중요하다: 노예제 폐지론자들은 자신들이 죽고도 수십 년이 지난 후에야 성공할 사명에 생을 바쳤고 우리는 그들 덕분에 자유를 누리고 있다. 기후변화나 환경오염을 걱정할 때 현재 세대만을 염두에 두는 사람은 없을 것이다.

ㆍ미래는 거대하다: 화재로부터 한 명을 구할 수도 백 명을 구할 수도 있다면 백 명을 구해야 한다. 어떻게 계산해도 미래는 상상 이상으로 길고 그 기간을 살아갈 사람은 아찔할 정도로 많다. 얼마나 많은 목숨이 우리 손에 달려 있는 걸까?

ㆍ우리는 미래의 삶을 더 나아지게 만들 수 있다: 우리는 경제적·과학적·도덕적·환경적 변화가 이례적으로 빠른 시대에 살고 있다. 우리만큼이나 미래 궤도를 크게 바꿀 힘을 가진 사람은 우리 시대 이전에 없었고 앞으로도 없을 것이다. 미래 세대가 살아갈 세상에 무엇을 남겨줄지 진지하게 생각해봐야 한다.

저자는 이러한 장기주의 논거를 위해, 책 전체에 걸쳐 세 가지 비유를 사용한다.

ㆍ첫째, 지금의 인류는 ‘경솔한 10대’다: 인간은 술을 마시고 안전벨트를 매지 않은 채 앞이 보이지 않는 모퉁이를 돌며 속도를 올리는 10대처럼 행동하고 있다. 경솔한 선택을 한다면 지금 당장 죽을 수도 평생에 걸쳐 고통받을 수도 있다. 우리는 인류의 삶을 결정지을 선택을 앞두고 있다.

ㆍ둘째, 지금 사회는 ‘녹은 유리’ 상태다: 유리가 뜨거울 때는 어떤 모양으로든 만들 수 있지만 식고 나면 손댈 수 없다. 우리는 지금 제자백가에 비유할 수 있는 녹은 유리의 시기를 살고 있다. 다양한 가치관이 경쟁하고 있고, 단일한 가치관이 승리를 거두지 못했다. 일단 하나의 가치관으로 결정되면 오랜 시간 ‘고착’될 수 있다. 설사 그것이 나쁜 가치관일지라도 말이다.

ㆍ셋째, 인류는 ‘위험한 원정길’에 올랐다: 우리는 전인미답의 어둡고 안개 자욱한 땅을 탐험하는 중이다. 어떤 위험에 직면할지 심지어 어디로 가고 있는지 모르지만, 대비할 방법이 있다. 불쏘시개, 성냥, 날카로운 칼, 응급처치용품 등 어느 때고 도움이 될 것을 챙겨야 하고, 여러 선택지에 대해 열려 있어야 하며, 때때로 정찰도 해야 한다.

지금이 아니면 언제인가, 당신이 아니면 누구인가
가장 낙관적인 미래를 위해 지금 우리가 해야 할 일

경솔한 10대처럼 행동하고, 말랑말랑한 유리의 시기를 흘려보내고, 빈손으로 원정길에 오를 때, 우리에겐 어떤 미래가 기다리고 있을까. 저자는 멸망 시나리오를 가정하고 그 해결책도 제안한다.

ㆍ기후변화와 핵전쟁으로 문명이 붕괴되는 시나리오
이산화탄소 배출량을 줄이면 기후변화를 늦출 수 있다는 것, 배출량을 많이 줄일수록 좋다는 것을 우리는 이미 알고 있다. 청정에너지 기술과 대체 연료를 개발하면 단기적으로는 대기오염으로 인한 사망자를 줄일 수 있고, 장기적으로는 화석연료 고갈 시점을 늦추어 문명 붕괴 후에라도 회복 가능성이 높아질 수 있다.
강대국들 간의 갈등이 고조됨에 따라 핵전쟁 발발 위험은 계속 커져만 간다. 핵전쟁은 가공할 만한 파괴력으로, 돌이킬 수 없는 피해를 유발할 것이다. 무기 통제 협약과 위기 관리 프로세스가 이러한 변화를 따라잡을 수 있게 해야 한다.

ㆍ유전자조작 전염병으로 인류가 멸종하는 시나리오
유전자조작 병원체는 핵무기보다 제조하기 쉽다는 점에서 수백 종을 만들어 전 세계 수천 곳에 퍼뜨리는 것도 가능하다. 코로나 바이러스는 우리가 팬데믹에 대한 준비가 얼마나 소홀한지 보여주었다. 세계가 전염병에 더 많은 관심을 기울이도록 설득하는 데 코로나 팬데믹 같은 재앙이 필요하다는 것은 비극적인 일이다. 그러나 코로나 팬데믹은 새로운 유전자조작 병원체가 불러올 수 있는 공포에 비하다면 약하다. 극단적인 위험에도 생존을 확보할 수 있는 장비를 개발하는 동시에 백신 개발 등 적극적인 대응 계획을 세워야 한다.

ㆍ발전 속도가 정체되어 멸망하는 시나리오
인공지능이 지금보다 더 빠르게 진보할 것이라고 예상할 만한 근거들이 있다. 하지만 그 반대의 가능성도 높다. 데이터를 굳이 인용하지 않더라도, 현재의 물리학 분야 진보가 아인슈타인 시대에 비해 훨씬 더 어렵다는 것만 봐도 발전 속도가 둔화하고 있는 것을 알 수 있다. 기술 진보는 깎아지른 암벽을 오르는 등반과 같다. 폭발적인 에너지로 밀어붙이면 정상에 안전하게 도착할 수 있다. 하지만 등반가는 점점 지쳐가고 있다. 추락하는 것은 시간문제다. 혁신적인 기술을 제때 개발하지 못하면 전 세계 장기 침체 가능성이 높아지고 인류 멸망과 문명 붕괴에 가까이 갈 것이라고 저자는 경고한다.

“우리가 볼 수 있는 한계를 세상의 한계로 취급하기 쉽다.” 그러나 세상이 우리 집 문 앞이나 국경에서 끝나지 않듯, 우리 세대에서 끝나지는 않을 것이다. 핵탄두 수천 기가 발사 대기 중인 시대, 화석연료를 태우며 수십만 년 지속될 오염물질을 만들어내는 시대, 팬데믹이 전 세계를 휩쓸어버린 시대, 인공지능 탈선을 우려하는 시대, 그러나 동시에 이 모든 것에 대응하고, 미래의 방향을 틀 수 있는 시대에 우리는 살고 있다. 장기주의는 인류가 겪고 있는 이 문제들을 바라보는 관점과 문제 해결의 실마리를 제공한다. 장기적으로 생각하고 지금 당장 행동해야 한다. 근사한 미래와 끔찍한 미래 모두 우리 손에 달려 있다.

작가정보

저자(글) 윌리엄 맥어스킬

(William MacAskill)
옥스퍼드대학교 철학과 교수. ‘효율적 이타주의 운동’의 창시자로 ‘기빙왓위캔(Giving What We Can)’을 통해 가장 효율적인 자선단체에 소득 10% 이상의 기부 약속을 독려하고, 비영리조직 ‘8만시간(80,000Hours)’을 공동 설립해 사람들이 각자의 직업을 통해 가장 효과적으로 사회에 기여할 수 있는 방법을 연구하고 있다. 〈포브스〉 선정 ‘30세 미만 30대 사회적 기업가’로 이름을 올렸으며, 동시대 철학자 중 가장 널리 인용되는 학자다.

번역 이영래

번역에이전시 엔터스코리아에서 번역가로 활동하고 있다. 옮긴 책으로 《사업을 한다는 것》 《세계미래보고서 2050》 《4차 산업혁명과 투자의 미래》 《파타고니아, 파도가 칠 때는 서핑을》 《움직임의 뇌과학》 《어떤 선택의 재검토》 등이 있다.