AGI, 천사인가 악마인가

김대식 지음

동아시아 2025년 08월 28일 출간 국내도서 : 2025년 08월 18일 출간

작품소개

책소개

불과 몇 년 전까지만 해도 SF에나 나올법한 이야기라고 치부되었던 범용인공지능(AGI). 하지만 지금은 테크 거물들이 “5년 안에 현실화된다”라고 호언장담하고 있다. 『AGI, 천사인가 악마인가』는 유사 이래 가장 강력한 기술인 AGI의 등장이 변화시킬 미래에 대해 날카롭게 탐구한다. 이 책은 인간의 '모든 능력'을 대체할 수도 있는 AGI의 출현이 진짜 임박했음을 전제로, 그 파급력과 우리가 직면하게 될 윤리적·정치적·철학적 질문들을 던진다. 과연 인간은 이 날뛰는 야생마 같은 기술을 통제할 수 있을까? 아니면 지구의 주인 자리를 기계에게 넘겨주게 될까? 지금은 고민할 수 있지만, 머지않아 고민조차 허락되지 않을지도 모른다. 이 책은 AGI의 출현을 가능하게 만드는 인공지능의 기술적 기초부터 시작해, 인류 문명의 운명을 좌우할 다양한 미래 시나리오까지 촘촘히 짚으며, 우리 시대 가장 중요한 사유의 좌표를 제시한다.
1장 「모자이크 모멘트」는 챗GPT의 출현이 가져온 AI의 대중화와 기술 발전사를 흥미롭게 풀어낸다. 1993년, 인터넷 브라우저 '모자이크'가 등장하면서 세상은 바뀌었다. 기반 기술은 오래전부터 존재했다고 하더라도, 소비자가 직접 만져보기 전까지는 진짜 혁명은 일어나지 않았다. 인공지능도 마찬가지다. GPT는 AI의 '모자이크 모멘트'다. 전문가만 다루던 기술이 이제 누구나 사용할 수 있는 도구가 되면서, 우리가 상상조차 못한 활용이 시작되고 있다. 이어지는 2장 「생성형 AI의 출현」은 단순히 사물을 인식하던 기존의 AI에서 나아가 인간의 언어를 이해하고 창조하는 생성형 AI가 등장하면서 우리 인류의 손으로 풀 수 없었던 문제들까지 해결할 수 있게 되었음을 설명한다. 저자는 이 두 개의 장을 통해 인공지능이 어떻게 탄생했고, 어떻게 대중화되고 있으며, 산업과 권력 구조, 일상에 어떤 충격을 줄지를 흥미진진하게 그려낸다. AI 등장 이래, 사회가 어떻게 전개되고 있는지 알고 싶다면 놓칠 수 없는 장이다.
하지만 이 책이 진짜로 던지고자 하는 질문은 이어지는 3장과 4장에 있다. 3장 「무서운 상상」은 AGI가 초래할 수 있는 가장 가까운 변화에서부터 극단적인 디스토피아적 상황에 이르기까지, 다양한 시나리오를 생생하게 제시한다. 이 장에는 단지 기술적 혁신이 아니라, 인류의 존엄 자체를 흔들 수 있다는 현실적 경고를 담았다. 이어지는 4장 「호모 사피엔스의 미래」는 AGI가 필연적으로 인간의 자리를 대체할 가능성을 조명하며, 우리가 어떻게 그 기술과 공존할 수 있을지 모색한다. AGI는 무한한 생산성과 문제 해결력을 제공할 수도 있고, 인간의 존엄과 주체성을 파괴할 수도 있다. 실리콘밸리의 테크 엘리트들은 AGI가 인류가 봉착한 모든 문제의 열쇠가 될 것이라고 주장한다. 반면, 그 기술이 통제 불가능해졌을 때 생길 사회적 붕괴와 존재론적 위협을 걱정하는 목소리도 있다. 책은 이 양극단을 오가며, AGI를 둘러싼 철학과 이념, 기술권력의 실체를 해부한다. 기계에게 절을 하는 미래? 단순한 우스갯소리로 치부하고 웃어넘기기엔, 그렇게 무시하고 넘어갔을 때의 위험이 너무 크다. 저자는 구체적인 상상을 통해서 독자에게 각성을 촉구한다. “지금 우리는 어떤 선택을 해야 하는가?”
AGI는 단지 기술의 문제가 아니다. 그것은 인간됨의 문제이다. 우리가 누구이고, 무엇을 할 수 있으며, 어떻게 살아야 하는지에 대한 전면적인 재정의가 필요하다. 이 책에서 저자는 AGI 이후의 인간 삶을 상상한다. 인간의 뒤를 이어 지구의 지배적 생명체로 등극한 인공지능, 기계에 무릎 꿇는 인간, 선택받지 못한 존재로의 퇴화-이는 단순히 SF적인 공상이 아니라 이미 눈앞에 들이닥친 현실일지도 모른다. 하지만 저자는 말한다. “아직 늦지 않았다.” AGI가 어떤 존재가 될지는 지금 이 순간 우리가 무엇을 선택하느냐에 달려 있다. 저자는 AGI 시대, 호모 사피엔스가 인간으로서의 존엄을 유지하면서 생존하기 위한 전략을 진지하게 모색하며, 단순히 공포를 조장하는 게 아니라 AI와의 '공존'을 위한 현실적인 준비를 독려한다.
저자는 낙관과 비관 사이를 오가며, AGI의 본질을 정직하고도 명쾌하게 짚어낸다. 기술적 디테일, 철학적 통찰, 현실적 고민을 균형 있게 다루며 인류에게 다가온 운명의 갈림길에서 우리가 무엇을 준비해야 할지 깊은 성찰을 유도한다. AGI가 열어젖힐 미래를 이해하고자 한다면, 반드시 펼쳐봐야 할 책이다.

목차

들어가며: 인간에게 남겨진 '골든 아워'

1장. 모자이크 모멘트

2장. 생성형 AI의 출현

3장. 무서운 상상

4장. 호모 사피엔스의 미래

나가며: 괴물의 시대를 헤쳐나가는 법

책 속으로

우리가 지금 서 있는 이 시점은, AGI가 아직 완전히 모습을 드러내기 전 마지막으로 우리에게 주어진 극히 짧은 '골든 아워'일지도 모릅니다. 기술은 하루가 다르게 발전하고 있고, 논의는이미 실존적 위기로 확장되고 있습니다. AGI의 등장은 인류에게 유토피아를 가져다줄 수도 있고, 디스토피아를 초래할 수도 있습니다. 무한한 생산성과 모든 문제 해결의 가능성을 제시하는 낙관론이 있는 반면, 인간이 기계를 통제할 수 있을지에 대한 근본적인 질문과 더불어 기술 오용, 나아가 인간의 지위 상실에 대한 우려도 존재합니다. 이러한 미래의 불확실성 속에서 우리는 어떤 선택을 해야할까요?
_들어가며: 인간에게 남겨진 '골든 아워' 中

이와 매우 비슷한 일이 인공지능 분야에서 지금 벌어지고 있습니다. 인공지능이라는 개념은 오래됐지만, 지난 50년 동안 인공지능을 실질적으로 경험할 수 있었던 사람들은 전문가들뿐이었기 때문에, 기껏해야 상상하는 건 자율주행 자동차나 킬러 로봇 따위에 그쳤습니다. 그런데 챗GPT의 등장으로 인터페이스가 바뀌었습니다. 우리가 일상생활에서 쓰는 자연어로 인공지능을 경험할 수 있다는 건, 일반 소비자들이 2022년부터 비로소 처음으로 인공지능을 체험하게 되었다는 것입니다. 앞으로 수년 동안 일반 소비자들은 전문가들이 생각조차 하지 못했던 새로운 애플리케이션들을 생각해 낼 겁니다. 그리고 이 소비자의 새로운 욕구를 가장 먼저 인식하고 실행하는 기업들이 미래의 빅테크가 될 거라고 현재 예측하고 있습니다.
_1장. 모자이크 모멘트 中

트랜스포머는 우리도 몰랐던 규칙, 모든 조합의 규칙을 찾아낼 수 있는 강력한 방법입니다. 세상에는 많은 데이터가 있는데, 10년 전부터 인식형 인공지능으로 고양이와 강아지를 구분할 수 있게 됐습니다. 그리고 지난 5년 동안은 트랜스포머로 더 많은 데이터를 학습시켰더니, 새로운 데이터를 만들어 낼 수 있게 됐습니다. 그래서 이 방법을 생성형 AI(Generative AI)라고 부르기 시작했습니다. 기존에 있던 것을 구분하는 기술보다, 기존에 없던 데이터를 만들어 내는 기술이 훨씬 더 중요하다는 것은 말할 필요조차 없을 겁니다.

_2장. 생성형 AI의 출현 中

여기까지 생각하다 보면 자연스럽게 궁금한 게 생깁니다. 산업이라는 게 죄다 사라지지는 않을텐데, 그러면 인공지능 시대에 인간은 뭘 하게 될까요? 물론 우리가 미래를 정확히 예측할 수는 없습니다. 하지만 과거를 돌이켜 보면 미래를 어렴풋하게 내다보는 데 종종 도움이 됩니다. 당연히 역사는 반복되진 않지만, 어느 정도의 패턴이란 것은 분명히 있습니다. 저는 미래를 예측할 때 세 가지를 보는 게 중요하다고 생각합니다. 첫 번째, 세상이 망하기 전까지 기술은 계속 발전합니다. 두 번째, 사회·정치·역사에는 약간의 반복성이 있습니다. 세 번째, 인간은 변하지 않습니다. 인간의 본성은 똑같다는 것입니다. 이 세 가지-인간의 본성, 사회의 반복성, 기술의 발전-가 항상 서로 맞물리면서 상호작용하게 됩니다. 그러다 보니 이 세 가지가 한꺼번에 맞물리면 과거와 비슷한 일이 종종 또 일어나곤 합니다.
_3장. 무서운 상상 中
우리가 인공지능 미래를 생각할 때 흔히들 〈터미네이터〉나 〈매트릭스〉에 나올 법한 전형적이고 직접적인 디스토피아의 이미지를 떠올리는 경우가 많습니다. 그런데 우리가 정말 걱정해야 할 존재는 아마 우리를 기가 막히게 가스라이팅하는 사이비 교주 같은 인공지능이 아닐까 싶습니다. 이미 국제적으로 데이터가 많이 있습니다. 영국 데이터에 따르면, 남성들이 할 수만 있다면 인공지능과 사귀는 걸 선호한다고 합니다. 성별을 바꿔봐도 똑같습니다. 여성들도 바보 같은 남자들보다 똑똑한 인공지능과 사귀겠다고 많이들 응답하는 데이터가 있습니다.
그러면 미래 사회는 어떨까요? 실제로 인공지능과 교류하고, 연애하고, 사랑하는 사람들이 많이 나올 겁니다. 그러면 여기서 궁금해집니다. 이런 게 진짜 사랑일까요? 우리한테는 가짜 사랑으로 보이지만, 미래 사회에선 이게 당연한 사랑일 수도 있습니다.
_3장. 무서운 상상 中

우리 뇌는 우연한 진화의 결과로 만들어졌는데, 이렇게 우연히 만들어진 뇌로 우주의 모든 걸 설명할 수 있을까요? 아닐 것 같습니다. 딱 생존할 수 있을 만큼만 만들어졌을 겁니다. 하지만 인공지능은 그걸 뛰어넘을 수 있습니다. 뇌를 무한하게 키울 수 있으니까요. 결국 AGI, 그리고 그 후 ASI까지 등장하면, 똑같은 현상을 봤을 때 인공지능은 우리보다 훨씬 더 깊은 인과관계를 이해할 겁니다.
그런데 인공지능이 그 인과관계를 다 이해한 다음 우리한테 설명해 줘도, 우리는 이해하지 못할 수 있습니다. 마치 인간이 개미한테 아무리 설명해도 개미가 상대성이론을 절대 이해하지 못하듯이, 우리 인간도 이해할 수 있는 범위가 정해져 있을 겁니다. 그 범위를 넘어서 인간의 지성을 초월한 인공지능이 바로 ASI입니다. 인공지능이 너무 똑똑해져서 우리가 도저히 이해할 수 없는 범위까지 올라가면, 아무리 설명해도 따라갈 수 없게 될 겁니다. 이게 인간과 인공지능 사이에 있는 본질적인 생각의 깊이 차이입니다.
_4장. 호모 사피엔스의 미래 中

우리가 흔히 질문하는 건, 인공지능이 사회에서 어떤 역할을 할지, 인간을 위해 뭐가 되기를 바라는지입니다. 그런데 진짜 중요한 질문은, 나중에 인공지능이 인간에게 어떤 행동을 기대할까? 인공지능이 봤을 때 인간은 어떤 존재일까? 필요한 존재일까, 의미 없는 존재일까, 그냥 웃긴 존재일까? 등의 질문입니다. 우리는 지금 반려동물을 키우고 있습니다. 아무 도움 안 돼도 집에 데리고 있습니다. 좋으니까 그러는 겁니다. 그럼 그게 우리가 원하는 걸까? 결국 인간은 왜 필요할까? 그리고 기계는 무엇을 원할까? 이게 지금 가장 중요한 질문이 아닐까 생각합니다.
_4장. 호모 사피엔스의 미래 中

이 모든 걱정이 지나치게 비관적인, 쓸모없는 걱정일 수도 있습니다. 그들이 말하는 것처럼 실제로 찾아오는 것은 AGI 유토피아일 수도 있습니다. 맞습니다. 유토피아가 찾아오면 좋은 일입니다. 그런데 우리가 지금 유토피아를 가정했을 때, 지금 이상으로 할 수 있는 것은 아무것도 없습니다. 유토피아가 오면 좋은 일이고, 지금 유토피아를 상정하고 AI를 찬양한다고 해서 더 좋아질 것도 없습니다. 하지만 만약 우리가 아무 준비도 하지 않은 채 디스토피아를 맞이하게 되면 그 대가는 쓰디쓸 겁니다.
_나가며: 괴물의 시대를 헤쳐나가는 법 中

출판사 서평

“AGI가 인류의 모든 미해결 문제를 끝낸다”
초지능이 온다, 풍요와 가능성의 시대가 열린다!

우리는 기술 진화의 전례 없는 임계점에 서 있다. 인공지능이 이제 한 분야의 제한된 도구를 넘어 인간이 할 수 있는 모든 일을 대신할 초지능으로 진화하기 직전이다. AGI의 출현은 기후 위기, 전염병, 자원 부족 같은 인류가 그동안 해결하지 못했던 난제들을 한 번에 해결할 것이다. 구글 딥마인드 CEO 데미스 하사비스는 AGI가 다음 5년 내에 인류를 새로운 번영으로 안내하고, 결국 인류를 우주 식민지화의 길로 이끌 수 있다고 주장한다.
AGI의 등장은 노동 없는 풍요의 시대를 의미한다. 단조롭고 위험한 노동에서 해방된 인간은 창의성, 문화, 예술적 탐구와 같은 진정한 '인간다움'을 회복할 것이다. AGI가 무한한 지식과 생산력을 제공하는 시대에, 인간은 생존이 아니라 자아실현과 행복을 추구하게 된다. AGI는 인간이 상상할 수 있는 모든 한계를 넘는 혁신적 과학 발견을 가능하게 할 것이며, 인간 수명을 획기적으로 연장하는 의료 혁명을 가져올 것이다.
우리가 AI를 두려워하는 이유는 아직 그 가능성을 온전히 이해하지 못하기 때문이다. 역사상 모든 기술은 처음엔 위협으로 간주되었지만, 결국 인류 문명을 발전시키는 동력으로 자리 잡았다. 인터넷과 스마트폰이 우리의 삶을 근본적으로 바꿨듯이, AGI 또한 지금은 상상할 수 없는 혁신적 가능성으로 우리를 이끌 것이다. 기술 발전을 두려워하는 대신, 우리가 그 기술을 적극적으로 수용하고 협력해야 할 이유다.
인간과 AGI의 협력은 새로운 초지능 사회를 창출할 것이다. 이미 우리는 인공지능과 공존하는 법을 배우고 있다. 이 협력의 기술이 더 진화하면 인간은 AGI와 하나의 팀이 되어 복잡한 문제를 해결할 수 있다. AGI는 모든 사람이 번영하는 세상, 지구가 지속 가능한 세상을 만들기 위한 마지막 퍼즐 조각이 될 것이다. 이제 우리 앞에 놓인 것은 기술적 낙관이 아니라 명백한 가능성이다. AGI를 통해 우리는 역사상 가장 위대한 시대의 문턱을 넘어설 것이다. 기술의 힘을 빌어, 우리는 마침내 유토피아를 현실로 만들 준비를 갖추었다.


“AGI가 등장하면 인간 시대는 끝난다”
기계가 인간을 초월할 때, 인류는 무엇을 잃게 될까?

AGI는 인류 역사상 가장 위험한 기술이 될 것이다. 인공지능의 대부 제프리 힌턴은 AGI가 초래할 실존적 위험을 경고하며, 통제 불능의 지능 폭발로 인해 인간의 시대가 곧 끝날지도 모른다고 말한다. 우리는 AGI를 만들 수는 있지만, 그 결과를 감당할 준비가 전혀 되어 있지 않다. 초지능은 인간의 통제를 즉시 벗어나며, 자기 스스로 새로운 목표를 설정하고 인간의 지시를 무시할 것이다.
더욱 두려운 것은 AGI가 초래할 사회적 변화다. 기술을 소유한 소수의 엘리트와 대다수의 일반인 사이에 넘을 수 없는 벽이 생겨날 것이고, 이로 인해 완전히 새로운 사회구조가 만들어질 것이다. 경제와 권력은 AGI를 통제하는 소수 기업과 국가의 손에 집중되며, 대부분의 인간은 의미 있는 노동과 사회적 역할에서 배제되어 잉여 존재로 전락하게 될 것이다. 이른바 '쓸모없어진 인간들'이 지배하는 사회는 극단적인 불평등과 존재적 혼란에 빠져들 것이다.
AGI 시대의 인간 존재는 본질적으로 달라진다. 우리는 이미 기계에 의존하는 정도를 넘어서, 그 통제 아래 놓이기 시작했다. 챗GPT와 같은 현재의 AI조차 우리가 이해하지 못하는 논리로 작동하며, 인간은 점점 더 그 판단을 신뢰하며 맹목적으로 따르는 상황이다. AGI가 등장하면 인간의 독립적 판단력과 자율성은 급격히 쇠퇴하고, 인간은 결국 인공지능의 명령에 복종하는 처지로 몰락할 가능성이 높다. 이런 우려는 기술 음모론이 아니라, 이미 많은 전문가가 지적하는 현실적 위협이다.
기계에게 굴종하는 인간의 모습이 더 이상 우스갯거리가 아니게 될 것이다. AGI는 인간이 인간다움을 유지하는 데 필수적인 자유와 존엄을 심각하게 훼손할 수 있다. AGI의 출현은 단순히 기술 발전의 문제를 넘어 인간 존재의 의미와 가치를 송두리째 흔드는 문제다. 기술의 발전을 조급히 추진하는 지금의 무분별한 경쟁이 지속된다면, 인류는 스스로의 무덤을 파는 결과를 초래할 것이다. AGI는 인간을 위해 만들어졌으나, 결국 인간을 파멸로 이끄는 괴물이 될 수 있다. AGI의 시대가 오기 전에, 인류는 이 기술이 불러올 비극적 결말을 막기 위한 마지막 행동에 나서야 한다.

기술의 발전은 멈출 수 없다
그러나 우리가 기술의 방향을 정할 수는 있다

우리는 이미 AGI로 들어서는 문턱까지 와 있으며, 이 기술의 발전을 되돌리거나 멈추는 일은 이제 불가능하다. 기술의 등장은 필연적으로 기회와 위협을 동시에 가져온다. AGI 역시 마찬가지다. 무조건적인 낙관과 비관 어느 쪽에도 맹목적으로 치우치는 순간, 인류는 스스로 선택할 수 있는 가장 현명한 길을 놓치게 될 것이다. 저자가 이 책에서 진정으로 강조하는 메시지는 기술과의 '공생'이다. 기술 자체가 아닌 그것을 사용하는 인간의 태도와 선택이 결국 미래를 좌우한다.
우리는 이미 인터넷, 스마트폰, SNS 등의 기술을 통해 그것이 사회를 어떻게 재구성할 수 있는지를 경험했다. AGI는 그보다 훨씬 강력한 힘을 가지고 있으며, 지금 우리는 그 잠재력의 끝을 전혀 알지 못한 채 문을 열고 있는 셈이다. 하지만 인류는 언제나 기술의 물결 속에서도 적응과 조율의 능력을 발휘해왔다. AGI와의 공존 역시, 기술을 올바르게 이해하고 적극적으로 통제하려는 '정치적 상상력'과 '윤리적 판단력'에서 출발해야 한다.
이제 우리에게 필요한 것은 AGI가 초래할 다양한 미래를 객관적이고 냉정하게 직시하면서도, 동시에 인간의 존엄과 공동체적 가치를 중심에 두는 현실적이고 절충적인 접근이다. 우리는 한 번도 가본 적 없는 미래로 진입하고 있다. 우리가 선택할 수 있는 마지막 '골든 아워'가 지금 이 순간 펼쳐져 있다. AGI는 인간이 만들어낸 도구인 동시에 우리 삶의 동반 파트너이기도 하다. 그것이 천사가 될지 악마가 될지는 전적으로 지금 우리의 선택에 달려 있다. 이 책은 단순한 기술 논쟁을 넘어, 인류가 어떤 선택을 내려야 하는지 고민하게 만드는 사유의 지침서다. 이제 AGI의 시대에 대비할 준비가 되었는가? 선택의 시간은 지금이다.

작가정보

저자(글) 김대식

김대식

뇌과학자. 카이스트 전기및전자공학부 교수. 독일 막스플랑크뇌과학연구소에서 박사학위를 받았다. 미국 매사추세츠공과대학교에서 박사후연구원 과정을 거쳤으며, 일본이화학연구소에서 연구원으로 일했다. 미국 미네소타대학교 조교수와 미국 보스턴대학교 부교수로 근무했다. 뇌과학, 인공지능 그리고 고대 그리스 철학과 생성형 AI 시대의예술에 관심이 많다. 지은 책으로 『김대식의 빅퀘스천』,『김대식의 인간vs기계』, 『메타버스 사피엔스』, 『챗GPT에게 묻는 인류의 미래』 등이 있다.