확률로 바라본 수학적 일상

장톈룽 지음 | 홍민경 옮김

미디어숲 2025년 08월 10일 출간 국내도서 : 2025년 08월 10일 출간

작품소개

책소개

인공지능은 모든 것을 정확하게 계산하는 존재라고 믿기 쉽다. 하지만 이 책의 저자인 장톈룽 박사는 이 믿음에 호응하지 않는다. 이 책은 우리의 일상을 지배하는 인공지능의 진짜 작동 원리가 놀랍게도 확률이라는 수학적 개념에 뿌리를 두고 있다는 사실을 설득력 있게 보여준다.
저자는 미국 텍사스대학교 오스틴 캠퍼스에서 이론물리학 박사학위를 받았고, 중국과학기술대학에서 오랜 시간 과학을 가르치며 양자역학, 우주론, 인공지능 등 첨단 주제를 대중에게 쉽고 흥미롭게 전파해 온 과학 교양 작가다. 그녀의 글은 엄밀한 과학의 언어를 이야기처럼 재미있게 풀어내는 것으로 유명하다.

이 책은 단순한 질문에서 출발한다. “주사위를 굴렸을 때 어떤 숫자가 나올지 어떻게 예측할 수 있을까?” 그리고 이야기는 곧 베르누이 법칙, 베이즈 추론, 마르코프 체인, 정보 엔트로피로 확장된다. 이어서 이 개념들이 알파고, ChatGPT, 추천 알고리즘, 언어 생성 모델과 어떻게 연결되는지를 차근차근 풀어낸다. 특히 ‘쥐와 독약 문제’나 ‘베이즈 당구대’ 같은 흥미로운 확률 문제와 사고실험은 읽는 이로 하여금 수학적 개념을 온몸으로 경험하는 듯한 몰입감을 준다. “AI는 정답을 아는 것이 아니라, 그럴듯한 답을 확률적으로 예측하는 존재”라는 결론에 이르면 독자들은 비로소 확률이 지닌 힘을 실감하게 된다.

과학 문명이 정밀해질수록 확률은 더욱 중요해진다. 모든 데이터를 다 알 수 없는 현실에서, 우리는 가능한 것 중 ‘가장 그럴듯한 것’을 선택해야 하기 때문이다. 그 판단의 근거가 바로 확률이다. 확률로 세상을 해석하고, 불확실성 속에서 질서를 찾아낸다.
『확률로 바라본 수학적 일상』은 복잡한 수식 없이 확률의 세계를 넘나들며, 실사례를 통해 지금 우리가 살아가는 시대가 어떤 원리 안에서 작동하고 있는지를 명쾌하게 보여준다. 불확실한 시대를 살아가는 모든 이에게 이 책은 하나의 지적 나침반이 되어줄 것이다.

목차

들어가며

1. 확률, 세상에서 가장 공정한 게임?
01) 파스칼과 프랑스 수학자들: 확률론의 탄생
02) 그럴듯하지만 틀렸다! 확률론의 역설
03) 기하학적 확률과 베르트랑의 역설
04) 직관을 의심하라: 회계 부정을 밝혀낸 확률의 힘
05) 도박사의 오류: 확률과 큰 수의 법칙
06) 어디서나 등장하는 종 모양 곡선: 중심 극한 정리

2. 베이즈는 어떻게 생각할까?
01) 몬티 홀 문제
02) 확률은 도대체 무엇인가? 몬티 홀 딜레마에서 시작된 철학적 고찰
03) 빈도주의 학파 vs. 베이즈 학파
04) 주관과 객관 사이, 확률은 어디에?
05) 양자역학은 무엇으로 구원받을 수 있을까?
06) 베이즈 당구대 문제

3. 확률이 춤춘다: 랜덤한 세계의 움직임
01) 마르코프 체인(Markov chain)
02) 술 취한 사람의 방황: 랜덤 워크의 수학적 모델
03) 도박꾼의 파산과 새의 귀소
04) 미립자의 방황: 브라운 운동

4. ‘엔트로피’, 혼돈 속의 질서를 말하다
01) 카르노에서 시작된 이야기: 재능을 시샘한 자연
02) 열역학 무대에 혜성처럼 등장한 엔트로피
03) 이름도 낯설고 성격도 까다로운 그 녀석
04) 우주를 관통하는 시간의 화살
05) 맥스웰의 도깨비

5. 정보는 얼마나 어지러운가?: 정보 엔트로피 이야기
01) 정보 세계에 뛰어든 엔트로피
02) 엔트로피의 다양한 얼굴들
03) 쥐와 독약 문제
04) 공 모양이 다르다? 저울 문제
05) 모든 달걀을 한 바구니에 담지 마라

6. 인터넷과 확률이 만났을 때
01) 거대한 네트워크 속 작은 세상
02) 네트워크와 그래프 이론
03) 네트워크는 얼마나 클까?
04) 흥미로운 랜덤 빅 네트워크

7. 인공지능과 통계, 생각하는 기계의 비밀
01) 알파고의 세기의 대전
02) 인공지능의 부침, 세 번의 흥망성쇠
03) 은닉 마르코프 모델(HMM)
04) 서포트 벡터 머신(SVM)
05) 기계는 어떻게 ‘깊이’ 학습하는가
06) ChatGPT, 통계를 말하다

책 속으로

** 주사위는 오래전부터 도박에 사용되었던 도구이고, 인류는 5천 년 전부터 그것을 사용했던 것으로 보인다. 주사위를 최초로 발명한 사람은 이집트인이지만, 다른 몇몇 고대 문명국가의 역사 속에도 독자적으로 발명한 유사한 물건들이 등장한다. 하지만 인류가 지난 몇천 년 동안 주사위를 이리저리 흔들고 던지며 가지고 놀았다고 해서 그 안에 숨겨진 심오한 수학적 비밀까지 온전히 이해한 것은 아니었다.

** 비록 ‘확률’의 정의가 이해하기 어렵지 않고 누구나 사용할 수 있을 것처럼 보인다 해도, 확률 계산의 결과가 우리의 직관을 위배하는 경우가 많다는 사실을 간과해서는 안 된다. 확률론으로도 설명하기 어렵고, 그럴듯해 보이지만 사실과 다른 역설들이 곳곳에 존재하기 때문이다. 그렇다고 직관을 맹신해서도 안 된다. 우리의 대뇌는 오류와 맹점을 만들어 낼 수 있다.

** 2001년 미국 최대 에너지 거래 업체인 엔론(Enron)이 파산을 선언했고, 회사 최고 경영진이 계좌를 위조한 혐의를 받고 있다는 소식이 전해졌다. 엔론 기업의 최고 경영진이 재무 데이터를 조작하면서 그들이 발표한 2000-2001년 주당 순이익 데이터가 벤포드 법칙에 부합하지 않았다. 이 밖에도 벤포드 법칙은 주식 시장 분석이나 선거 조작 감시에 활용될 수 있다.

** 중심 극한 정리의 놀라움은 인정하지 않을 수 없다. 일정한 조건하에서, 다양한 형태의 확률 분포에서 생성된 확률 변수들이 합쳐졌을 때, 그 전체 효과는 정규 분포를 따르게 된다. 이 점은 통계학 실험에서 특히 유용한데, 실제 생물학적 또는 물리적인 확률 과정은 하나의 단일한 원인에 의해 발생하지 않고, 다양한 무작위 요인의 영향을 받기 때문이다.

** 빈도학파는 사물의 본체를 설명하고자 하는 반면, 베이즈 학파는 새로운 관측이 발생한 후 관찰자의 지식 상태가 어떻게 갱신되었는지를 설명하는 데 초점을 맞춘다. 이것은 세계관의 차이가 방법의 차이에 영향을 미치는 것이라고 볼 수 있다. 예를 들어 동전을 던지는 과정에서 빈도학파는 ‘여러 차례의 시행’을 강조하지만, 베이즈 학파는 ‘시행의 결과’를 갱신하는 방법의 탐색을 강조한다.

** 위너 과정은 랜덤 워크의 극한 과정이다. 일반적으로 랜덤 워크는 격자 공간 안에서 한 격자씩 이동하는 것이고, 격자 지점 사이의 거리를 𝑑라고 가정하면, 위너 과정은 𝑑가 0으로 가까워질 때 랜덤 워크 과정의 극한이다.

** 맥스웰은 초창기에 기체 동역학 이론을 연구했고, ‘기체의 절대 온도는 입자 운동 에너지의 척도’라는 관점을 견지했지만, 일정 온도 𝑇에서 모든 분자의 운동 에너지는 단일한 고정값이 아니라 통계 분포의 법칙, 즉 분포 곡선을 따른다고 여겼다. 개별 입자의 속도는 다른 입자와의 충돌로 계속해서 변하지만, 대량 입자의 경우 특정한 속도 범위에 있는 입자가 차지하는 비율은 거의 변하지 않는다.

** 1928년 R.V.H. 할리R.V.H. Harley는 𝑁log𝐷라는 식으로 정보량을 표시하자고 건의한 적이 있다. 1949년 사이버네틱스 창시자 위너는 계량 정보의 개념을 열역학에 도입했다. 1948년, 섀넌은 정보를 사물의 운동 상태나 존재 방식의 불확실성을 설명하는 개념으로 보았으며, 할리의 공식을 각 확률 𝑝𝑖가 서로 다른 경우로 확장하여 정보량 공식을 도출해냈다. 이렇게 해서 그는 우리를 위해 정보론을 탄생시키고, ‘정보’의 과학적 의의를 정의하며 ‘정보의 아버지’가 되었다.

** 인간관계 네트워크의 경우 그래프에서 각 개인을 하나의 꼭짓점으로 삼을 수 있다. 예를 들어 서로 아는지 모르는지와 관련된 사람과 사람 사이의 관계는 그래프의 꼭짓점을 연결하는 변으로 이어진다. ‘그래프’를 네트워크 모델로 삼는 것은 유일한 방식이 아니며, 연구 대상에 따라 선택 여부가 달라진다. 예를 들어 인간관계 네트워크는 개인 혹은 그룹을 꼭짓점으로 삼을 수 있다.

** 합성곱의 역할에 대해 더 잘 이해하기 위해 우리는 소리 신호의 푸리에 분석과 서로 비교해 볼 수 있다. 소리 신호는 시간 영역에서 매우 복잡한 곡선을 보이고, 그것을 표시하기 위해 대량의 데이터가 필요하다. 만약 푸리에를 거쳐 주파수 영역으로 변환하면 소량의 스펙트럼과 기본 주파수 및 몇 개의 배음(Harmonic Overtone) 데이터만으로도 표시가 가능하다. 다시 말해서 푸리에 분석은 소리 신호 속의 주요 성분을 효과적으로 추출하고 저장할 수 있고, 데이터를 설명하는 차원 수를 줄일 수 있다.

출판사 서평

“확률은 애매하고 불확실한 걸까?”

확률은 모호한 개념이 아니라,
세상을 이해하는 가장 똑똑한 방식이다

“확률은 그냥 찍는 거잖아요.”
많은 사람이 이렇게 말한다. 시험에서 모르는 문제를 찍을 때나, 복권을 살 때 우리는 확률을 ‘운’처럼 생각하곤 한다. 하지만 이 책은 이런 생각이 얼마나 잘못된 것인지를 흥미롭게 설명해 준다.
이 책의 저자는 확률을 단지 주사위나 도박에만 쓰는 것이 아니라, 우리가 매일 사용하는 인공지능 속에서도 확률이 아주 중요한 역할을 한다고 말한다.
예를 들어, 알파고가 바둑을 둘 때, 어떤 수를 계산해서 ‘정답’을 고르는 게 아니다. 그 대신, “이 수를 두면 이길 가능성이 크다”라는 확률을 계산해서 선택한다. 스마트폰의 음악 추천이나 유튜브 영상도 마찬가지다. 수많은 가능성 중에서 ‘가장 그럴듯한 것’을 고르는 것이다. 이것이 바로 확률의 힘이다.
우리는 종종 ‘앞면이 5번 나왔으니, 이제 뒷면이 나올 차례야’라고 생각한다. 하지만 이건 엄청난 착각이다. 동전 던지기는 매번 결과가 독립적이기 때문에, 앞면이 몇 번 나왔든 다음 결과에 영향을 주지 않는다. 확률을 정확히 알지 못하면, 이런 착각 때문에 손해를 볼 수 있다.

어떤 사람들은 확률은 엉성하고 믿을 수 없는 분야라고 말한다. 하지만 놀랍게도 확률은 인공지능이 세상을 이해하고 움직이는 방식이다. 확률은 ‘몰라서 쓰는 방법’이 아니라, ‘모르기 때문에 더 똑똑하게 선택하는 방법’인 것이다.
『확률로 바라본 수학적 일상』은 확률이라는 개념이 수학 교과서 안에 갇혀 있는 것이 아니라, 우리 주변 곳곳에서 활약하고 있음을 흥미진진하게 알려준다. 무작위처럼 보이는 현상 속에서 패턴을 찾아내고, 불확실함 속에서 최고의 선택을 하는 것, 그게 바로 확률의 진짜 역할이다. 이 책을 읽고 나면, 아마 여러분도 이렇게 말하게 될 것이다. “확률이 이렇게 재미있고, 쓸모 있는 학문이라니!”

현대 사회를 움직이는 핵심 원리
‘확률’에 관한 흥미로운 이야기

요즘 뉴스에서는 하루가 멀다 하고 ‘영끌 투자 실패’, ‘코인 폭락’, ‘선물 옵션으로 전 재산을 잃었다’ 같은 기사가 쏟아진다. 인터넷 도박 사이트에 빠진 20대, 주식 단타에 매달리다 빚더미에 앉은 청년들, 파생상품으로 한밤중에도 눈을 감지 못하는 사회 초년생까지, 불확실한 세계에서 단 한 번의 ‘대박’을 노리는 사람들이 끊임없이 나타난다.
하지만 『확률로 바라본 수학적 일상』은 이 위험한 흐름에 올라탄 사람들에게 수학적 통찰을 던진다. 이 책은 단순한 수학 교양서가 아니다. 확률이라는 렌즈로 인간의 착각을 들여다보고 AI처럼 세상을 더 현명하게 바라보는 법을 알려주는 생존형 교양서다. 책에 나오는 ‘도박꾼의 파산(Gambler’s Ruin)’ 문제는 현실의 투자 실패를 이해하는 데 놀라운 깨달음을 준다. 이야기는 이렇게 시작된다.
한 도박꾼이 있다. 그는 도박판마다 50%의 확률로 이기거나 지는 공정한 게임을 한다. 초기 자본은 10달러이고 목표는 20달러를 보유하는 것이다. 하지만 한번 잃기 시작하면 그에게 남은 선택은 하나다. “다시 따기 전까진 멈출 수 없다.” 이론적으로는 공정해 보이지만, 수학적으로는 결과가 정해져 있다. 그는 결국 파산한다. 왜일까?
확률적으로 보면, 한 판 한 판은 반반의 승부일지 몰라도 돈이 무한하지 않은 사람이 계속해서 베팅을 이어갈 경우, 결국 돈이 바닥날 수밖에 없다. 잃을 확률이 쌓일수록 파산에 도달할 확률은 1(100%)에 가까워지기 때문이다. 이길 기회는 매 판 있지만, 잃을 가능성도 계속 누적되어서 시간이 충분히 지나면 언젠가는 자금이 0원이 되는 순간에 도달하게 되는 것이다. 결국은 ‘파산’이 수학적으로는 ‘거의 확실한 운명’이 된다. 이는 단순한 수학 퍼즐이 아니다. “결국은 따게 될 거야”라는 자기암시는, 실제로는 확률적으로 파멸을 예약하는 선택이라는 것이다. 이 원리는 지금도 우리 사회 곳곳에서 반복되고 있다. 고수익·고위험 투자 상품에 수십 번, 수백 번 ‘몰빵’하는 행위, 모든 돈을 베팅하고 “이번만은”을 외치는 심리의 배경에는 확률에 대한 오해, 혹은 무지가 깔려 있다.

『확률로 바라본 수학적 일상』은 바로 이런 무지에서 벗어나게 해준다. 이 책은 알파고, ChatGPT, 스팸 필터, 추천 알고리즘처럼 AI가 확률을 어떻게 다루는지를 알려주는 동시에, 확률적으로 생각하는 힘이 얼마나 강력한 생존 도구인지를 알려준다. 우리의 일과 일상은 확률과 밀접하게 연관되어 있기 때문이다.
이 책을 읽다 보면 깨닫게 된다. 우리는 언제나 불확실한 세상에 살고 있고, 그 속에서 이기려면 필요한 것은 ‘감’이 아니라 확률을 이해하고 활용하는 힘이라는 것을 말이다. 확률은 단지 수학이라는 학문에 머무르지 않는다. 위험을 줄이고, 판단을 개선하고, 살아남는 법을 가르쳐주는 도구다. 그것이 바로 이 책의 메시지다. 그리고 오늘을 사는 우리에게 가장 필요한 생존 기술이기도 하다.

작가정보

저자(글) 장톈룽

(张天蓉)

미국 텍사스대학교 오스틴 캠퍼스(University of Texas at Austin)에서 이론물리학 박사학위를 받은 중국의 대표적인 과학 교양 작가이자 물리학자. 중국과학기술대학 등에서 연구와 교육 활동을 이어 왔으며 양자역학, 우주론, 인공지능, 나노 소재에 이르기까지 폭넓은 분야에서 과학의 대중화를 이끈 인물로 평가받는다.
2012년부터 중국과학원 산하의 주요 과학 포털사이트 ‘ScienceNet.cn’을 통해 발표한 다수의 과학 칼럼과 이야기식 해설로 과학자와 연구자들에게 폭넓은 신뢰를 얻고 있다. 게다가 그간 펴낸 저서들은 2015년 ‘중국 내 영향력 있는 도서’와 2018년 중국 과학기술부 선정 ‘전국 우수 과학 도서’에 이름을 올릴 만큼, 수학과 과학을 어렵게 느끼는 독자들에게 친절하면서도 정교하게 과학적 통찰을 전달하는 것으로 정평이 나 있다.
주요 저서로는 『나비효과의 수수께끼: 프랙탈·카오스와 친해지기』, 『세기의 유령: 양자 얽힘과 친해지기』, 『전자, 전자! 누가 무어의 법칙을 구제할 것인가?』, 『신은 세상을 어떻게 설계했을까: 아인슈타인의 곤혹』, 『수학과 물리에 대한 흥미로운 이야기: 무한으로부터의 작은 시작』 등이 있다.

번역 홍민경

숙명여자대학교 중문과와 이화여자대학교 통번역대학원 한중번역학과 석사를 이수했다. 타이완 정치대학교에서 수학한 뒤, 현재 번역 에이전시 엔터스코리아에서 출판 기획 및 중국어 전문 번역가로 활동하고 있다.
주요 역서로는 『AI 시대 생존 전략』, 『지식인들의 지적 대화』, 『미루는 습관 극복하기』, 『우아한 인생』, 『논어: 누구나 한 번쯤 읽어야 할 고전 한 문장』 등이 있다.