어디에나 있고 무엇이든 하는 알고리즘 이야기

문병로 지음

김영사 2024년 07월 16일 출간 국내도서 : 2024년 06월 28일 출간

작품소개

책소개

“알 수 없는 알고리즘이 나를 여기로 이끌었다”
유튜브에서 흔히 볼 수 있는 댓글이다. 알고리즘이라는 용어 자체는 널리 알려져 있지만, 아직 많은 사람이 알고리즘을 ‘내가 좋아하는 콘텐츠를 귀신같이 알아채는 프로그램’ 혹은 ‘인공지능에 쓰이는 무언가’ 정도로 받아들인다. 알고리즘이란 대체 무엇이고 어떻게 작동하는가? 어디서 활용되고 있는가?
문병로 교수는 서울대학교에서 최적화 알고리즘을 연구하는 세계적 석학이자 알고리즘 트레이딩 분야를 개척해 10여 년간 코스피 6배의 수익률을 올린 투자회사의 대표다. 《어디에나 있고 무엇이든 하는 알고리즘 이야기》는 알고리즘 이론뿐 아니라 실행 모두에서 최고의 전문가로 평가받는 문병로 교수의 첫 대중교양서다. 알고리즘 기본 개념과 이론, 문제를 풀어나가는 다양한 방식, 미래 알고리즘의 진화까지 한 권에 담았다. 각 분야 최고의 학자와 연구자가 미래 세대를 위해 만든 ‘굿모닝 굿나잇’ 시리즈 열여섯 번째 책.

목차

프롤로그

1장 알고리즘이란 무엇인가?
1. 아랍에서 시작된 알고리즘
2. 답을 찾아가는 효율적인 교통수단
3. 알고리즘으로 어떤 문제를 풀 수 있을까?
4. 알고리즘의 토대, 자료구조
5. 치열해지는 인공지능과 알고리즘 경쟁

2장 천재와 괴짜의 알고리즘 발전사
1. 천재의 전형 도널드 커누스
2. 프로그래밍 언어를 진화시킨 배커스와 매카시
3. 생물정보학의 초석을 놓은 심리학자 낸시 웩슬러
4. 나치의 암호를 푼 비운의 천재 앨런 튜링
5. NP-완전 문제의 개념을 제시한 스티븐 쿡
6. 인공지능 혁명의 대부 제프리 힌턴

3장 알고리즘은 어떻게 최적의 답을 찾는가?
1. 다양한 문제 해결 방식들
2. 재귀, 내 안의 나를 찾는다
3. 알고리즘과 인색함에 대해
4. 진화하는 유전 알고리즘
5. 정답 주고 배우기와 부딪쳐보고 배우기
6. 인공지능을 지배할 트랜스포머 어텐션

에필로그

책 속으로

알고리즘이란 단어는 무함마드 이븐 무사 알 콰리즈미라는 이슬람 과학자의 이름에서 유래했다. 그는 9세기 이란의 아바스 왕조 시대 사람으로, 대수학의 고전에 해당하는 책을 썼다. 알 콰리즈미의 저서를 라틴어로 번역하면서 이름이 고유명사화되어 ‘Algoritmi’로 표기됐고, 프랑스어의 ‘Algorithme’를 거쳐 영어의 ‘Algorithm’이 됐다. ‘~에서’라는 뜻인 ‘알’은 그대로 남고 ‘콰리즈미’는 ‘고리즘’이 된 것이다._p.11

어려운 문제도 각자의 공간을 만든다. 문제에는 다양한 해(답)가 있고 이 해들은 공간을 이룬다. 평지와 골짜기, 봉우리로 이루어진 공간에 해들이 흩어져 있다. 알고리즘은 이 공간을 여행하는 교통수단이다. 알고리즘의 설계자들은 저마다의 수준에 맞는 교통수단을 설계해 문제 공간으로 내보낸다._p.17

세계 최초의 컴퓨터로 알려진 것은 펜실베이니아대학교의 애니악이다. 그렇지만 사실상 세계 최초의 컴퓨터는 이보다 2년 앞서 제2차 세계대전 중 앨런 튜링이 만든 영국의 콜로서스다. 이 콜로서스 덕분에 영국은 완벽한 암호 체계라 해독 불가능하다고 알려진 독일의 에니그마 암호 체계를 풀었다. 영국 정부가 이 사실을 비밀에 부쳤기 때문에 애니악이 세계 최초의 컴퓨터로 알려지게 됐다._70p

눈앞의 이익만 좇아 선택해나가는 알고리즘을 통틀어 인색한 알고리즘, 영어로 그리디 알고리즘이라 한다. 인색한 알고리즘도 대개 좋은 결과를 얻지 못한다. 그런데 드물게 최고의 해답을 찾는 경우가 있다. 예를 들어 내비게이션에서 최단 경로를 찾는 문제다. 시중의 내비게이션이 좋은 길을 찾지 못하는 이유는 계산에 필요한 시간보다 더 짧은 시간 안에 경로를 제시해야 하기 때문이다. 이럴 때는 얼마나 순식간에 쓸 만한 해답을 제시하는지가 관건이 된다._115p

알고리즘도 취향이 있다. 공간을 탐험하면서 한 스타일만 고집하는 알고리즘은 대개 결과가 좋지 않다. 어려운 문제에 대해서는 다양한 스타일의 탐색을 조합해 공간을 여행하는 알고리즘이 대개 좋은 결과를 낸다. 문제 해결이란 알고리즘의 다양한 취향을 배우는 과정이기도 하다._117p

이세돌과 대국할 때 알파고는 다음 수 하나를 결정하는 데 1분까지 쓸 수 있었다. 현재의 바둑 인공지능은 훨씬 빨라졌고 실력도 좋아졌다. 요즘은 프로기사의 대국을 중계할 때 해설자가 인공지능이 알려주는 각 선수의 승률과 예상 집 차이를 보며 해설한다. 인공지능 추천 수를 맞혔으면 정수라 하고 그렇지 않으면 실수라 한다. 해설하기가 편해졌다._131~132p

출판사 서평

알고리즘은 공간을 여행하는 교통수단이다
재미와 지식이 함께하는 알고리즘 이야기

ㆍ인간의 사고방식을 컴퓨터에 적용시킬 수 있을까?
ㆍ미래 인공지능을 좌우할 기술은 무엇인가?
ㆍ알고리즘으로 어떤 문제까지 풀 수 있을까?
ㆍ미중 알고리즘 경쟁의 결말은?
ㆍ알고리즘도 진화하는가?

알고리즘의 사전적 정의는 ‘문제를 해결하기 위한 절차의 집합’이다. 문제를 어떻게 해결할지 생각하는 방식이라고 할 수 있다. 문병로 교수는 알고리즘을 ‘교통수단’에 비유한다. 앞에 놓인 무수히 많은 선택지 중 옳은 답을 찾을 때 우리는 알고리즘을 사용한다. 어떤 것을 사용하느냐에 따라 빠르게 갈 수도, 돌아갈 수도 있고, 중간에 멈출 수도 있다. 알고리즘으로 택배 회사는 효율적인 배달 일정을 짜고, 유전공학자들은 DNA를 분석하며, 자동차 내비게이션은 실시간으로 최단 경로를 찾는다. 아주 단순한 계산에서 복잡한 인공신경망까지 그야말로 모든 곳에 쓸 수 있다.
《어디에나 있고 무엇이든 하는 알고리즘 이야기》는 다양한 사례와 일화를 통해 알고리즘의 개념, 이론, 쓰임새를 소개한다. 가장 기본적인 알고리즘은 무엇인가? 알고리즘으로 풀 수 있는 문제와 풀 수 없는 문제는 무엇인가? 알고리즘 기술과 관련해 어떤 갈등이 벌어지고 있을까? 알고리즘을 둘러싼 다양한 이야기가 펼쳐진다.

알콰리즈미와 앨런 튜링, 제프리 힌턴까지
오늘의 알고리즘을 만들어낸 천재와 괴짜들

알고리즘이라는 단어의 기원이 된 수학자 알콰리즈미, 2차 세계대전 중 최초의 컴퓨터를 만들어 조국의 승리에 기여했지만 이를 비밀에 부쳐야만 했던 앨런 튜링, 공부가 적성에 맞지 않아 2번 전과한 끝에 지도교수가 포기한 연구를 40년간 이어가 인공지능 혁명을 일으킨 제프리 힌턴... 우리는 일상에서 알고리즘을 자연스럽게 사용하고 있지만, 그 배경에는 여러 인물의 성공과 실패가 있었다. 그 누구도 지금의 알고리즘을 상상하지 못했고, 자신의 연구가 얼마나 크게 기여할지도 몰랐다. 전형적인 천재도 있고 완벽하지는 않아도 끈질기게 노력한 인물도 있다. 알고리즘 역사에서 특이점을 만들어낸 이들의 이야기는 앞으로 올 특이점을 상상하게 한다.

미래 인공지능을 지배할 기술은 무엇인가?
지금 알아야 할 알고리즘의 ‘핫이슈’

2012년 제프리 힌턴이 딥러닝 기술을 활용한 인공신경망을 선보인 이래 알고리즘 기술은 빠르게 발전해왔다. 생물의 진화 과정을 본뜬 알고리즘, 단어 간 관계를 파악해 맥락 있는 문장을 만들어내는 알고리즘 등 이전에는 생각도 못 했던 기술들도 등장했다.
《어디에나 있고 무엇이든 하는 알고리즘 이야기》에서 문병로 교수는 재귀와 머신러닝, 유전 알고리즘 등 오늘날 알고리즘을 이야기할 때 빼놓을 수 없는 주제들을 소개한다. 이를 통해 알고리즘에 대해 좀 더 깊이 이해할 수 있다. 특히 ‘트랜스포머 어텐션’에 대한 내용을 주목할 만하다. 챗GPT가 매끄러운 문장을 만들어낼 수 있었던 것은 트랜스포머 알고리즘 덕분이다. 데이터 간 관계(어텐션)에 주목해 비슷한 것은 비슷한 것끼리, 다른 것은 다른 것끼리 모은다. 이를 활용해 관계 깊은 단어끼리 배열하면 맥락 있는 문장이 만들어진다.

기계도 인간도 알고리즘으로 생각한다
최적의 답을 찾아서

2016년 알파고가 이세돌과의 바둑 대결에서 승리했을 때 사람들은 충격을 받았다. 요즘은 프로기사의 대국을 중계할 때 인공지능 추천 수를 맞히면 정수라 하고 그렇지 않으면 실수라 할 정도가 되었다. 인공지능 챗봇은 놀라운 속도로 발전해서 챗봇과 대화할 때 인간인지 기계인지 구분할 수 없을 정도다.
일상의 불편부터 최첨단 인공지능까지 우리는 알고리즘을 통해 문제를 해결한다. 초고속으로 진화하는 알고리즘을 완벽하게 이해할 수는 없을 것이다. 하지만 문병로 교수는 알고리즘 그 자체보다는 알고리즘을 통해 생각하는 방법을 익히는 것이 더 중요하다고 말한다.
집이라는 단어가 주어졌을 때 초가집의 구조를 떠올리는 사람이 있는가 하면 고층빌딩의 구조를 구상하는 사람이 있다. 생각의 힘 차이가 그 정교함과 복잡함의 차이를 만든다. 우리는 다양한 알고리즘으로 문제를 여러 관점에서 해결하는 경험을 쌓아야 한다. ‘알 수 없는’ 알고리즘에 끌려가지 않고, 알고리즘을 활용해야 한다. 그래야 미래 인공지능에 대응할 수 있다. 《어디에나 있고 무엇이든 하는 알고리즘 이야기》는 이를 위한 최적의 답이 되어줄 것이다.

매일 만나는 오늘의 교양, 미래의 지혜
아침에 시작해서 저녁에 끝내는 지식 라이브러리 ‘굿모닝 굿나잇’ 시리즈

‘굿모닝 굿나잇’은 21세기 지식의 새로운 표준을 제시합니다.
최고의 필진이 집필하고, 세상을 바라보는 지혜를 전합니다.
우리는 어디에 있고, 어떤 변화를 맞이하여, 무엇을 준비해야 할지를 조망합니다.

세상이 바뀌고 있다. 전 분야에서 패러다임이 전환하고 있다. 당장 내일 무슨 일이 일어날지 알 수 없는 불확실한 시대다. 거대한 변화의 흐름 앞에서 어떤 선택을 할 것인가. 변화를 읽지 못해 위기에 빠질 것인가, 변화에 적극적으로 대응해서 기회를 만들 것인가. 우리는 어디에 서 있고 어떤 변화를 맞이하고 있으며 무엇을 준비할 것인가.
각 분야 최고의 학자와 연구자가 미래 세대를 위한 지식교양 총서를 만들기 위해 모였다. 인문 사회 경제 자연과학 예술 등 전 분야에서, 전환의 시대에 마주하는 변화와 쟁점을 역사적으로 고찰하고, 현상과 본질을 통합적으로 조망하여, 해법과 대안을 모색하는 지식 라이브러리다. 중학생부터 대학생, 일반인까지 전 세대를 아우르며 누구나 읽을 수 있고, 한 권에 핵심 지식과 교양을 담은 문고본으로 가장 가까운 곳에 두고 매일 만날 수 있다. ‘굿모닝 굿나잇’ 라이브러리는 21세기 지식의 새로운 표준을 제시하고, 세상을 바라보는 지혜를 선사하는 길잡이가 될 것이다. 혜안과 통찰을 찾는 당신을 기다린다.

작가정보

저자(글) 문병로

서울대학교 컴퓨터공학부 교수. 서울대학교 계산통계학과, KAIST 전산학과, 펜실베이니아 주립대학교에서 학사·석사·박사 학위를 취득했다. 최적화 알고리즘을 통한 문제 해결을 연구하는 ‘최적화 및 금융공학 연구실’을 운영하며, 다양한 매체를 통해 알고리즘, 인공지능, 수리적 투자에 관한 기술 문화를 확산하기 위해 노력해왔다. 최적화 알고리즘 기반의 투자 운용사인 (주)옵투스자산운용 대표이사로도 활동하고 있다.
저서로 《문병로 교수의 메트릭 스튜디오》 《쉽게 배우는 알고리즘》 《쉽게 배우는 자료구조》 등이 있고, 역서로 《Introduction to Algorithms》가 있다. 국제 저널과 학술대회에 150여 편의 논문을 발표했다.