AGI 시대와 인간의 미래

맹성현 지음

헤이북스 2024년 07월 10일 출간 국내도서 : 2024년 06월 05일 출간

작품소개

책소개

안전과 보안을 희생하면서까지 AI 개발을 가속화하고 있는 오픈AI, 구글 딥마인드, 앤트로픽, 엔비디아가 모두 ‘2028년에는 AGI에 도달할 수 있다’고 공개적으로 밝혔다. ‘인류 멸종 수준의 위협’으로 평가받는 AGI는 범용인공지능, 즉 사람과 같거나 그 이상의 지능을 구현하는 AI를 말한다. 최근 화제가 되고 있는 GPT-4o는 AGI 시대의 서막을 알리는 초기 수준이다. 이 책은 챗GPT로 비롯되는 AI 기술의 지향점을 최대한 알아내고 인간의 본성과 능력을 보다 확실히 이해해서, 인간과 AI가 공존하고 동시에 AGI 시대까지 공진화할 수 있는 전략을 담은 ‘AGI 시대를 준비하는 최초의 생존 지침서’다.

목차

프롤로그

1장 AI를 넘어 AGI의 시대로
앞당겨진 미래
아무도 불확실한 미래를 좋아하지 않는다 | 한 번도 경험해보지 못한 세계 | 겉에서 본 생성형 AI
너를 알기 위해 나를 들여다본다
글을 읽는다는 것 | 모두가 가지고 있는 언어모델
놀랍고 무서운 신생아 챗GPT
신생아의 의미 | 무섭다는 이유 | 한계 및 새로운 관계
세력을 키우는 AI
막을 수 없는 팽창 | 불확실한 미래

2장 AGI의 시작 ‘생성형 AI’
AI ‘영장류’
미래를 위해 뿌리 찾기 | AI도 데이터 변환 프로그램 | AI 발전의 궤적
챗GPT 탄생의 비밀
인간 신경망을 모사하다 | 언어모델이 핵심 | 생성은 어떻게 하나? | 단순함이 아름다운 트랜스포머 | 알고리즘, 데이터, 모델
창발 능력
인간을 불안하게 만들다 | 그런 능력은 어디서 오는가? | 추상화라는 마법 | 대화 지능 | 눈치가 100단
생성형 AI의 진화 생태계
아직 미숙한 아이 | 요소별 뿌리 내리기 | 인간-AI 공존 생태계의 등장

3장 두 번째 인지혁명
도구의 변신
호모 테크니쿠스 | 주판에서 챗GPT로 | 디지털 문명의 여파 | 챗GPT는 도구인가?
제2의 인지혁명
혁명적 변화 | 지식의 폭발 | 정신노동의 자동화 | 인지혁명 요건의 충족
우리는 무엇을 하고 있는가
무방비의 알파세대, 적극적인 MZ세대 | 불안한 기성세대의 미필적 고의 | 얼마나 알아야 할까?

4장 AI가 가져다줄 기회와 실존적 위험
인간 지능과 AI 시너지
교사와의 협업 | 연구 혁신을 주도하는 AI | 창작도 함께하는 시대 | 의료 분야 협업 | 가장 변화가 클 법률 분야 | 감성이 필요한 영역까지도
인간 존재에 대한 위협
실존적 위험 | 의도와 결과는 별개 | 분열되는 사회 | 신격화의 함정 | 책임 있는 사고가 필요하다
일자리 지평으로 다가오는 태풍
예상되는 규모 | 변하고 있는 노동시장 | 새로운 기회 | 사회적 여파

5장 인간 지능과 AI
지능의 지평
일상생활에서 접하는 지능 | 지능 이론과 AI | 다중 지능 이론 | 문제 해결 능력은 어디서 올까?
인간 지능 vs AI
인지적 관점 | 사고실험을 통한 비교 | 세부 지능별 비교 | AI는 인간을 변화시킨다
소중한 인간 고유 능력
욕망과 의도 | 감각과 지각 | 의식과 창의성 | 일석삼조의 공감 지능 | 사회적 욕구가 가져다준 선물 메타인지 | 경험 체화 | 사회적 상호작용

6장 AI와의 공존을 위한 미래 전략
AI와의 공존 그리고 공진화
왜 공존인가? | 공존의 방법 | 공진화 방향
신인류를 위한 준비
변화의 시간이 오고 있다 | 과거와 다른 변화의 패턴 | ‘교육은 백년대계’라는 말 | 공존 전략에 거는 기대
AGI 시대의 아홉 가지 필수 능력
문해력 | 통합 통찰력 | 창의력 | AI 리터러시 | 기술 변화 적응력 | 지식정보 가치 판단력 | 공감 기반 협업 능력 | 경험 체화 능력 | 정서적 인간다움
교육의 전환
주사위는 던져졌다 | 꿈틀거리는 사회 | 시대정신이 담긴 교육목표 | 변화는 현장에서

에필로그
주석

책 속으로

밀려오는 불안감부터 떨쳐내면서 전략을 짜야 할 것이다. 이럴 때 가장 먼저 떠오르는 병법은 ‘지피지기 백전불태(知彼知己 百戰不殆)’다. 실제로 챗GPT로 비롯되는 AI 기술의 지향점을 최대한 알아내야 하고(지피), 인간의 본성과 능력을 보다 확실히 이해해야(지기) 하기 때문이다.
_ 13쪽, ‘프롤로그’ 중에서

챗GPT로 떠들썩한 첫 번째 이유가 현재의 능력에 대한 놀라움 때문이라면, 두 번째 이유는 미래에 일어날 변화 때문이다.
_ 21쪽, “1장 AI를 넘어 AGI의 시대로” 중에서

사람들은 AI가 어려운 문제를 풀거나 논리적인 사고를 잘하는 것은 이제 당연하게 생각하지만, 인간이 지키고 있는 마지막 보루 중 하나인 창의성이 도전받고 있다는 것을 알면 불안감에 휩싸인다.
_ 100쪽, “2장 AGI의 시작 ‘생성형 AI’” 중에서

하지만 이 책에서 더욱 중요하게 여기는 것은 인간 지능의 다면성을 탐구하는 것이다. 이를 통해 AI와 인간 지능의 차이를 알아봄으로써 AI의 미래 발전 방향을 파악하고, 인간이 미래에 어떤 능력을 갖추고 있어야 할지 알 수 있다.
_ 172쪽, “3장 두 번째 인지혁명” 중에서

따라서 자율성을 가진 AI와의 협업은 점차적으로 선택이 아닌 필수 사항이 될 수밖에 없다. AI의 안전성만 보장된다면, AI는 SF영화에서 볼 수 있듯이 ‘사회 구성원’으로서의 지위를 얻어갈 것이다.
_ 178쪽, “4장 AI가 가져다줄 기회와 실존적 위험” 중에서

인간은 AGI가 출현할 미래 시점에 어떤 능력을 보유하고 있어야 할까? AI와 인간이 가지고 있는 사고 체계의 차이를 알면 AI 발전에도 도움이 되지만, 어떤 방향으로 인간의 능력을 계발해야 하는지도 알 수 있지 않겠는가.
_ 238쪽, “5장 인간 지능과 AI” 중에서

AI 시대가 열린 이 시점에 인간과 AI가 어떻게 공존할 것인가 그리고 AGI 시대의 도래를 눈앞에 두고 어떻게 공진화(co-evolution)할 것인가 묻는 것은 실존적 질문이다.
_ 305쪽, “6장 AI와의 공존을 위한 미래 전략” 중에서

인간과 AI의 공통점과 차이를 명확히 인지하고 차별화하여 인간다움을 극대화하는 것이 앞으로 인간과 AI가 적절히 공존하는 사회를 만들 수 있는 유일한 길이라고 믿기 때문이다.
_ 384쪽, “에필로그” 중에서

출판사 서평

오픈AI, 구글 딥마인드, 앤트로픽, 엔비디아
“2028년 AGI 시대가 온다!”
AGI 시대를 준비하는 최초의 생존 지침서

미국 오픈AI사가 2022년 말에 공개한 챗GPT라는 ‘생성형 인공지능’의 출현은 경이로움과 두려움을 동시에 느끼게 했다. 챗GPT는 ‘인류가 생산해놓은 거의 모든 텍스트를 읽어 들여 융합한 후 대화를 통해 질문에 대한 답이나 지시한 글쓰기 작업 등 언어 기반의 지적 작업을 수행해내는 AI’다. 챗GPT는 호모 사피엔스가 신인류로 진화하는 과정의 시발점이 될까, 인류의 문명을 알 수 없는 종착지로 표류시킬 불행의 씨앗이 될까?
최근 미국 국무부에서 의뢰한 연구보고서가 화제다. 보고서는 “AGI는 통제력 상실로 인한 재앙적 위험의 주요 요인으로 간주되고 있다”면서 “오픈AI, 구글 딥마인드, 앤트로픽, 엔비디아가 모두 2028년까지 AGI에 도달할 수 있다고 공개적으로 밝혀왔다”고 지적했다.
저자는 안전과 보안, AI윤리 같은 거대담론은 차치하더라도 이 AI 기술이 “인류의 사고와 경험을 수집하여 정제·정련할 수 있기 때문에 인간의 사유와 인지 활동에 혁명을 일으킬 수 있다”고 주장한다. 이 책은 “10년 후 우리의 삶은 어떻게 달라질까? 우리 일자리 생태계는 어떻게 바뀌어 있을까? MZ세대는 새로운 시대의 일자리에 어떻게 적응해야 할까? 현재의 교육 시스템과 문화를 따라간다면 미래 세대는 어떻게 될 것인가?”와 같은 실존적 질문들에 대한 답을 찾아나갈 준비가 되어 있는지 묻는다.
불확실한 미래를 대비하는 방법으로 저자가 제안하는 것은 바로 ‘지피지기 백전불태(知彼知己 百戰不殆)’다. 인간과 AI가 각각 가지고 있는 본성과 ‘지적 능력’의 차이를 이해하지 못한다면 다양한 형태의 간극을 채워나가야 할 전략이 나올 수 없다는 것은 자명하다. 이 책은 챗GPT로 비롯되는 AI 기술의 지향점을 최대한 알아내고(지피), 인간의 본성과 능력을 보다 확실히 이해해서(지기) 인간과 AI가 공존하고 동시에 AGI 시대까지 공진화(共進化)할 수 있는 전략을 담은 ‘AGI 시대를 준비하는 최초의 생존 지침서’다.

지금, 우리는 무엇을 준비하고 있는가?
챗GPT로 시작된 제2의 인지혁명 이후
인간-AI 공존 세계를 대비하라!

인간의 ‘지적 혁명사’에 한 획을 그을만한 사건이 2010년에도 있었다. 구글의 등장으로 ‘검색의 시대’가 시작된 것이다. 그러나 구글링을 통해 필요한 정보나 팩트를 먼저 찾아야 하고, 콘텐츠를 읽어서 필요한 부분을 추출해놓는 과정 등이 뒤따라야 했다. 이를 돕기 위해 문서 분류, 정보 추출, 기계번역, 질의응답 등 자연어처리 기술 기반의 도구들이 출현했다. 여기까지는 대부분 자료의 해체 혹은 ‘분석’을 위한 기술을 적용하는 것으로 ‘읽기’ 능력 위주였고, 문장을 쓰고 문단을 구성해가면서 최종 작품을 만드는 ‘생성 과정’은 인간이 해야 하는 고유 영역으로 남아 있었다.
그런데 챗GPT는 ‘인류의 뇌’에 들어 있는 모든 콘텐츠를 섭렵하여 인간의 언어를 ‘이해’했고, 그 안에 있는 내용을 이리저리 섞어 사용자가 원하는 내용으로 새로운 글을 만들어낸다. ‘분석형’ 위주의 AI 시대와 차별화하여 챗GPT를 ‘생성형’ AI라고 부르는 이유다. 인간의 전유물인 지적 활동을 대신할 수 있는 ‘생성형’ AI가 여기저기서 정신노동을 해낸다면 인간은 뭘 해야 하는 것일까? 인간만이 할 수 있는 고유한 영역과 일자리는 어떤 것이 남을 것인가? 인간 본성과 능력을 따져야 하는 매우 까다로운 질문들이다.
이 책은 챗GPT로 시작되는 AI 기술 패러다임 변환의 의미가 우리의 삶과 일자리를 어떻게 바꿔놓을지 진단해보면서 미래 세대를 위해 어떤 준비를 해야 할지 짚어본다. 이러한 논의에 들어와야 할 핵심 요소는 ‘인간 능력의 다양성에 대한 이해’다. 생성형 AI와 인간 본성의 차이에 대한 이해 없이 미래 세대의 생존 전략을 짚어보고 AGI 시대로의 전환을 준비하는 것은 어불성설이기 때문이다.
이 책의 첫 부분(1장, 2장)은 챗GPT와 ‘생성형 AI’ 기술에 대한 최소한의 이해를 돕고자 일반인들의 눈높이 언어로 핵심을 설명하여 그 여파와 향후 발전 방향을 가늠해볼 수 있도록 한다. 여기에서는 뇌과학이 알려주는 인간 뇌의 작동 방식과 챗GPT 기술을 연결시켜 이 기술을 비교적 친숙하게 받아들일 수 있게 할 것이다.
두 번째 부분(3장, 4장)에서는 챗GPT로 촉발된 ‘제2의 인지혁명’의 의미를 역사적 관점에서 다루면서 AI가 가져다주는 기회 요소와 실존적, 잠재적 위험 요소들을 대조해본다. 특히 AI의 출현으로 변화할 일자리 생태계를 조망하여 인간과 AI의 공존이 필요함을 부각시킨다.
마지막 부분에 속하는 5장에서는 인간지능과 인공지능의 공통점과 근본적 차이점을 비교하여 ‘생성형 AI’의 현주소와 한계를 정리함과 동시에 인간이 가지고 있는 고유 본성을 짚어본다. 6장에서는 AGI 시대를 맞이해야 하는 우리 미래 세대가 키워야 할 필수 능력을 공존의 방식과 함께 제시하고, ‘신인류’를 위해 교육의 전환이 어떻게 이루어져야 할지 방향을 제시한다.

AI와 공생하는 인간 ‘호모 심비우스’
AGI 시대에 인간의 생존은
통섭적 사고와 인간다움의 강화에 달려 있다

저자는 “인간과 AI의 공통점과 차이를 명확히 인지하고 차별화하여 인간다움을 극대화하는 것이, 앞으로 인간과 AI가 적절히 공존하는 사회를 만들 수 있는 유일한 길라고 믿는다”고 한다. 이 책은 AI에 대한 인문학적·사회학적 담론에 그치지 않고, AI에 대한 기술적 해설이나 활용에 초점을 두고 있지도 않다. 저자는 인간과 AI, 이 양극단을 연결함으로써 AI 영역에 인간의 입김을 불어넣어 인간 중심의 사고를 리드하고 싶다고 한다. ‘AI는 AI로, 인간은 인간으로’ 남아 있어야 한다고 믿기 때문이다
가까운 미래에 세상은 어떻게 변할까? 생성형 AI는 기술적으로 더욱 완벽해질 것이고, 개방형 AI 생태계가 점차 정착되는 방향으로 진행될 것이다. 비전 AI도 강력한 거대언어모델과의 연결을 통해 실제 맥락과 사용자 의도를 파악하여 지금의 한계를 극복할 것이다. 기술적 진보와 함께 AI의 안전성, 신뢰성, 윤리 등 이슈들은 학계와 산업계의 본격적인 주목을 받을 것이다. 이런 이슈들의 해결 없이 AI의 산업화는 지속 가능하지 않기 때문이다. 자연스럽게 인간과 AI의 협력이 확장되면서 공존의 형태가 자리를 잡아가겠지만, AI가 AI를 만들어 AGI 시대로 접어들고 AI가 로봇의 두뇌 역할을 하면서 새로운 형태의 위협이 나타날 것이다.
일자리로 보면 갈 것은 가고 올 것은 올 것이다. 하지만 그 변화의 속도가 워낙 빨라 지금과 같은 교육 시스템과 학습 목표로는 감당하기 어려울 것이다. 저자는 AI와의 공존과 공진화를 지향하더라도 그 중심에는 항상 인간의 ‘삶’이 있어야 한다면서, 이러한 변화에 대처하기 위해서는 이 책의 6장에서 제시한 AGI 시대에 갖춰야 할 ‘아홉 가지 필수 능력’을 중심으로 개인·조직·학교 차원에서 미래 세대의 교육을 바라보고 각론에 들어간다면 AGI 시대를 맞이하면서 받을 충격을 최소화할 수 있을 것이라고 말한다.

작가정보

저자(글) 맹성현

지난 30여 년간 자연언어처리, 텍스트마이닝, 정보검색 분야에서 250여 편의 논문을 쓰며 연구와 교육에 매진한 전산학자다.
미국 캘리포니아주립대학교에서 전산학을 공부한 후 서던메소디스트대학교에서 전산학 석사와 박사 학위를 받았다. 템플대학교 조교수, 시라큐스대학교 종신교수, 1994년 귀국해서는 충남대학교 교수를 거쳐 2003년부터 카이스트(KAIST) 전산학부 교수로 있었다.
카이스트에서는 ICT 석좌교수, 국제협력처장, 웹사이언스 책임교수 등을 역임했다. 카이스트-삼성SDS 인공지능연구센터를 설립하여 초대 센터장을 지냈고, 카이스트-마이크로소프트 연구협력센터 센터장으로 10년간 봉직하면서 산학 협력 연구를 이끌었다. 최근에는 디지털인문사회과학센터 초대 센터장을 거쳐 명예교수가 됐다.
다양한 융합 연구를 시도한 경험을 토대로 컴퓨터 정보처리 기술과 인간이 만나는 영역의 연구에 전념했다. 우리나라 자연언어처리 분야 국가과제로 가장 큰 규모로 진행된 한국형 인공지능 ‘엑소브레인(Exobrain)’ 과제에서 3세부과제의 책임자로 7년간 일한 것을 포함하여 10년간 언어지능 분야 신기술을 이끌었고, 챗GPT가 나오기 전에 ‘HotpotQA’라는 질의응답 분야 국제 챌린지에서 1등을 달성하는 쾌거를 이루기도 했다.