결정하는 마음

서성욱 지음

글항아리 2023년 03월 30일 출간 종이책 : 2023년 03월 02일 출간

작품소개

책소개

『결정하는 마음』은 정형외과 의사이자 인공지능을 다년간 연구해온 저자가 인공지능의 알고리즘을 바탕으로 인간의 의사결정 문제를 분석하며 우리를 똑똑한 선택으로 이끄는 책이다. 자신이 논리적이고 합리적이라 생각하는 사람일수록 현실에서는 의외로 결정장애를 겪는다. 그에 반해 감성적이거나 신념을 주로 따르는 연역적인 사람은 빠른 행동으로 귀납적 의사결정자보다 우위를 선점하곤 한다. 즉 결정은 속도의 문제이기도 하면서 다른 한편 가능한 선택지를 최대한 고려해야 하는 심사숙고의 영역이기도 하다. 증거와 경험에서 데이터를 축적해 귀납적으로 판단하는 것은 원래 양질의 정보가 확보되기만 한다면 가장 확실한 의사결정을 가능케 한다. 최근 임상 의학에서도 임상시험을 통해 얻은 데이터를 귀납적 방법으로 분석해 치료의 확실한 증거를 찾고 이에 기반해 치료법을 결정한다.

하지만 문제는 현실이 늘 ‘불확실하다’는 것이다. 이에 저자는 확신 없는 상황에서 합리적 선택을 찾아가는 여정을 보여준다. 특히 불확실성을 추정하는 통계적 기법과 데이터를 통해 목적함수 최적화를 수행하는 기계학습 기법을 아우르는 의사결정법을 소개한다. 이 과정은 독자에게 평소 자신의 ‘결정 습관’을 점검하고 단련케 만든다.

인공지능 역시 귀납적 데이터 학습을 하며, 인간처럼 불확실한 상황에서 의사결정을 내린다. 그런 이유로 기계학습 연구자들은 한계 상황 속에서 어떻게 더 합리적이며 후회 없는 선택이 가능할지 연구 중이다(물론 알고리즘은 데이터에 내재된 편향을 같이 배울 확률이 높기 때문에 편향을 줄이고 변수 사이의 인과관계를 추론하는 게 중요한데, 저자는 이러한 사항을 중점적으로 다룬다). 이 책이 최신 인공지능 연구를 파고들며 이를 인간의 일상에 적용해보는 이유다. 이로써 과학적이고 이성적인 사람들이 우물쭈물하는 일 없이 결정을 좀더 빨리 내릴 수 있도록 도울 것이다.

목차

추천 서문: 인공지능으로부터 배우는 선택의 지혜_임성빈 고려대 통계학과 교수
머리말

1장 의사결정의 순간들
최선의 결정을 위한 조건 | 의사결정의 자유 | 불확실성 | 선택의 위중도 | 여러 문제의 해결과 결정의 순서: 문제의 영향력을 고려해야 한다 | 유한한 선택의 조건 | 연역적 의사결정 방법 | 귀납적 의사결정 | 혼합된 의사결정

2장 인간의 한계점
인지 단계에서의 오류 | 기여 인자를 찾는 단계에서의 편향: 귀인 편향

3장 직관: 감정적 사고와 논리적 사고

4장 의사결정의 기초
우연과 확률, 그리고 불확실성의 평가 | 선택의 가치 | 탐색: 현명해지는 법 | 인과관계에 대하여

5장 베이지안 사고방식
베이지안 모델 | 결정장애의 해결법: 베이지안 추론에 의한 신념과 논리의 융합 | 베이지안과 유사한 인간의 사유 방식: 베이지안 브레인 | 베이지안 브레인과 유사한 인공지능의 추론 방식

6장 선택의 가치
현명한 선택을 위한 사전 지식 | 점쟁이가 자기 점을 못 치는 이유: 예측에 개입할 때 생기는 변화

7장 본격적인 인과관계 분석
의학 데이터에서 연관성의 오류, 빅데이터 활용의 문제점 | 인과관계 추론 I | 인과관계 추론 II

8장 게임 이론
불확실한 상대가 있을 때의 의사결정: 게임 이론으로 풀기 | 교통 환경의 불확실성과 내시 균형 | 공정한 판단이란 무엇인가 | 해결되지 않는 불공정 문제 | 내시 균형의 지혜: 데이터의 공정한 판단이란 무엇인가? | 데이터 수집의 공정함을 평가하는 법: 자기상관성

9장 다중암 밴딧: 여러 번의 기회가 있는 문제의 선택

10장 집단의 의사결정
집단에 대한 의존성과 믿음 | 집단적 편향성 | 집단의 대립 | 집단은 우리의 의사결정을 더 풍요롭게 한다

맺음말
감사의 말
부록: 동전 던지기 문제의 베이지안 추론

책 속으로

특히 자신이 매우 이성적이고 과학적이라 여기는 사람들은 증거가 충분치 못한 불확실한 상황에서 몹시 당황한다. 스스로 결정장애가 있다고 생각하는 사람 중 다수는 이처럼 귀납적 결정을 선호하는 부류다. 사실 결정이 필요한 대부분의 문제는 불확실성을 내포하고 있다. 이성적이고 현실 감각이 뛰어난 사람일수록 불확실성을 있는 그대로 직면하기 때문에 판단이 더 어려워질 수밖에 없는 것이다. 만약 감성적이거나, 명제에 따라 행동하는 연역적인 사람이었다면, 불확실한 상황에서 오히려 빠른 의사결정을 했겠지만, 그렇다고 그들이 더 올바른 결정을 내렸다고 볼 수도 없다. 어쨌거나 귀납적 사고를 하는 사람이 우물쭈물하는 동안 연역적이거나 감성적인 사람은 먼저 결정을 내렸을 테고, 의사결정은 늘 그들의 몫이니 그들이 리더가 될 수밖에 없다. 귀납적 사고를 하는 사람들에게는 좀 억울한 면이 있지만 어쩔 수 없다. 이들은 불확실한 상황에서 합리적인 선택을 하는 방법을 배우지 못했다. 심지어 불확실한 상황에서 합리적 선택이 가능한지조차 모르고 있다._33~34쪽

선구적인 인공지능 연구자들은 편향성을 극복하고 올바른 의사결정을 내리는 과학적 논리를 찾기 위해 숱한 실험과 시행착오를 거치며 연구에 매진하고 있다. 이 책에서는 이들 연구자의 최신 결과물과 그들의 논리를 소개하고, 어떻게 하면 일상의 의사결정에서 이를 활용할 수 있을지 고민해보고자 한다. 물론 독자들이 개발자의 시각으로 연구 내용을 모두 이해할 필요는 없다. 게다가 실생활에서 이러한 인공지능이 적용될 날은 아직 요원하다. 다만 합리적 인공지능을 만들려는 연구자들의 수많은 논리와 시행착오를 소개함으로써 독자들에게 합리적 의사결정이 무엇인지 생각해볼 계기를 마련해주고 싶다._45쪽

반면 위중도가 높은 문제는 불확실성을 줄여야 결정이 가능하다. 이를테면 항암제는 약물 효과도 크지만, 부작용 또한 치명적이다. 결과의 위중도가 큰 약물은 동물 실험을 비롯해 여러 단계의 임상시험을 거친다. 의사들은 이런 약물을 사용하기 전에 수많은 데이터를 통해 검증하며, 불확실성이 충분히 적은지 확인한다. 앞서 언급했듯이 어떤 문제에 맞닥뜨렸을 때 이를 바로 해결하려 하기보다 자유도 관점에서 먼저 살펴볼 필요가 있다._25~26쪽

이처럼 반복된 실험을 통해 운이 좋은 사람이든 나쁜 사람이든 원래의 참확률로 수렴된다는 것을 알 수 있다. 반복을 통해 우연의 효과가 사라진 것이다. 즉 우연이라는 변수와 싸워서 이길 수 있는 유일한 방법은 꾸준한 반복이다. 우리는 이 점을 간과한 채 성급하게 결론을 내리곤 한다. 면밀한 분석을 통해서 의사결정 방향이 일단 확정되면 그 방향을 유지해야 한다. 한두 차례의 결과에 실망해 방향을 급선회하는 것은 매우 어리석은 일이다._60쪽

효용성의 문제에서는 객관적 불확실성뿐만 아니라, 개인의 심리적 감쇠율도 큰 역할을 한다. 심리적 감쇠 효과를 적게 느끼는 사람은 현실의 이익보다는 불확실한 미래에 가치를 크게 두며, 성취도도 높고 진취적일 가능성이 크다(이들은 자신의 노력과 인내에 대한 보상을 자주 경험한 부류다). 반면 심리적 감쇠 효과를 크게 느끼는 사람은 미래의 가치를 효용적 가치가 없는 사안으로 여기고 당장의 이익에 몰두할 가능성이 높다. 이들은 미래의 가치에 대한 긍정적인 경험이 없거나, 자신의 노력에 대해 실망한 경험이 자주 있어 오래 기다리는 일이나 불확실한 가치에 심리적 감쇠 효과를 크게 느낀다._79쪽

이처럼 동일한 소집단에서 치료군과 비치료군을 비교하는 시도는 의학 분야에서 정밀 의학이라는 이름으로 선도적으로 시도되고 있다. 과거의 인과관계 문제 또는 치료 효과의 문제는 무작위 임상시험에 근거한 평균 치료 효과를 추정하기 위한 연구들이었다. 평균 치료 효과란 전체 집단에서 이 치료가 효과를 보이는지 파악하는 것으로, 이를테면 전체 집단에서 특정 소그룹에 효과가 없거나 부작용이 있더라도 이는 무시하자는 것이다. 반면 소집단의 치료 효과 또는 개인별 치료 효과를 계산할 수 있다면, 환자의 상태에 따른 개인별 맞춤 치료가 가능해진다._181~182쪽

출판사 서평

똑똑한 결정장애자와 자존감이 낮은 확신형 인간

과학자 김우빈씨는 누구보다 똑똑하고 경우의 수를 꼼꼼히 따지지만, 결정적인 사안들에 대해 더 나은 선택지를 고려하다가 많은 것을 놓치고 말았다. 대학교수가 되고자 원서를 넣던 시절 그는 지방 대학에 내려가거나 혹은 지방 대학을 우회해서 서울로 다시 오는 방안은 절대 선택지에 두지 않았고, 폭 좁은 문턱을 넘지 못해 결국 교수가 되지 못했다. 그는 집을 사는 일에 있어서도 여러 전문가가 ‘아직 최저점을 찍지 않았다’는 말을 하자 계속 미루기만 했다. 김씨처럼 스마트하고 합리적인 사람들은 현실의 증거들을 계속 수집하고 자기 경험을 반추하다가 결정장애에 부딪힐 때가 많다. 게다가 현실에서 맞닥뜨리는 문제는 대부분 불확실성을 내포하고 있어 이성적인 사람일수록 망설이다가 선택지를 놓쳐버린다. 우리는 불확실한 상황에서 합리적으로 선택하는 방법을 배운 적이 없다. 심지어 불확실한 상황에서 합리적 선택이 가능한지조차 모르고 있다.
하지만 과거 데이터를 분석해보면 성공과 연관성 있는 요소는 무수히 발견된다. 게다가 뇌의 판단에 대해 오해하지 말아야 할 점은 이성적·과학적 사고는 뇌를 통과할 때 감정이란 요소까지 더해 ‘직관’의 형태로 도출된다는 것이다. 저자는 속도가 아주 빠른 결정은 종종 “이미 계산된 감정의 꼬리표의 총합이기 때문에” 가능한 것이라며, 이것을 ‘반사적인 감정’으로 착각하지 말라고 이야기한다. 이것은 ‘감성적’인 것이 아니며, 앞선 시행착오가 업데이트된 지극히 합리적 결과다.
그럼에도 불구하고 당신은 불안을 느끼는가? 저자는 이런 이들이 활용할 수 있는 데이터 과학과 인공지능을 알려준다. 인공지능 분야에서는 최근 불확실성을 측정하는 다양한 확률 모델이 개발되고 있다. 기계학습에서 불확실성의 측정은 확률분포를 추정하는 통계적 모델, 특히 베이지안 모델을 이용함으로써 가능하다.
다른 한편 의사결정이 빠르며 결정장애가 없는 사람이라고 해서 최적의 의사결정을 하는 것도 아니다. 저자는 신념에 찬 사상가처럼 연역적 판단을 하는 부류 역시 직관을 결여할 때가 많다고 본다. 그들은 자기 믿음이 확고하지만 실은 자신의 직관과 내적 세계를 완전히 무시하고 있으며, 자존감이 높아 보이지만 현실과 정서의 문제에서 미숙한 면모를 언뜻언뜻 드러낸다. 이런 부류도 결정장애가 있는 사람과 마찬가지로 새로운 문제에 대해서 최적의 의사결정을 할 수 없다.

신속한 결정이 해害가 될 때

합리적이고 똑똑한 선택을 하는 데 있어 가장 중요한 것은 ‘결정의 자유도’다. 저자가 이 책에서 계속 강조하는 것은 어떤 문제가 주어졌을 때 거기에 참여하기 전에 반드시 평가할 것은 ‘결정의 자유도’라는 점이다. 즉 ‘선택의 조건’이 현명한 선택을 만든다. 만약 자유도가 크게 제한됐지만 응급한 상황이 아니라면, 선택을 보류하고 더 많은 정보를 수집하는 단계인 탐색에 들어가야 한다. 하지만 이게 말처럼 쉬울까? 많은 사람은 불확실성이 큰 상황에서 오히려 결정을 서두르며, 사후에 자신의 의사결정을 기대 효용성의 논리로 합리화한다.
저자는 대표적인 예로 홈쇼핑 소비자를 든다. “홈쇼핑 방송이 소비자에게 매우 불공정한 결정의 환경인 이유로는 수십 가지를 들 수 있다”면서. 우리에게 선택의 문제가 주어질 때 사전 정보가 전혀 없을뿐더러 탐색의 기회 또한 보장되지 않는다면 홈쇼핑 소비처럼 성급한 결정은 삼가야 한다. 이건 매우 불공정한 상황으로, 무리하게 결정하지 말고 탐색을 통해 의사결정 환경을 자신한테 유리하게 조성해야 한다.
저자는 “자신이 행한 탐색의 결과를 평가할 필요는 없다”고 말한다. 즉 탐색할 때는 결과가 좋으리라 기대하기가 어렵고, 탐색 결과가 나쁘다고 해서 스스로에게 실망할 필요는 없는 것이다. 더 나은 결정을 하고자 자유도를 최대한 활용하기 위해 탐색에 필요한 비용과 시간을 할당하면 된다.

인공지능이 결정에 도움이 될까

우리는 자연과 사회를 아무리 객관적으로 관찰·분석하려 해도, 합리적 논리에 근거해서 행동하려 해도 한계를 벗어날 수 없다. 그래서 인간은 기계의 도움을 필요로 한다. 판단하는 데 기계의 도움을 받는 것은 부끄러운 일이 아니다. 인간은 자신의 신체적 한계를 기계를 통해서 극복해왔기 때문이다.
기존의 딥러닝은 확률분포를 구할 수 없는 기계학습 방법이다. 이는 매우 복잡한 구조와 파라미터로 구성되어 있지만, 사실 복잡한 방정식으로 이뤄진 하나의 함수라 할 수 있다. 이는 입력값에 대응하는 출력값만 제시하고 확률분포에 대한 정보는 제공하지 않는데, 이러한 기계학습 모델을 결정론적 모델이라고 한다.
저자는 의료지능을 연구하며 진단과 치료에서 사용될 인공지능 기술과 제품들을 검토하던 중 공학자들이 고안한 기계가 현실과 부합하지 않는 것을 발견했다. 결정론적 모델은 많은 데이터를 학습하면 정확도가 올라가지만, 확률분포를 알려주지 않는 탓에 중요한 의사결정에 활용할 수는 없다는 점을 명심해야 한다고 저자는 강조한다.
다행히 최근에 인공지능 분야에서 불확실성을 측정하는 다양한 확률 모델이 개발되고 있다. 기계학습에서 불확실성의 측정은 확률분포를 추정하는 통계적 모델, 특히 베이지안 모델을 이용함으로써 가능하다. 인공신경망도 불확실성의 측정이 가능한 베이지안 인공신경망 연구가 이뤄지고 있다.
물론 인공지능이 우리에게 폐암이 아닐 확률이 100퍼센트라고 하더라도 100퍼센트 확실하다는 뜻은 아니라는 것에 주의를 기울여야 한다. 게다가 인공지능도 젊고 탐색의 열정이 넘치는 알고리즘이 있는가 하면, 효율적이긴 하나 ‘꼰대’가 돼버리는 알고리즘도 있다.
많은 인공지능 개발자들은 더 나은 선택지를 찾기 위해 ‘탐색’의 열정을 유지하면서도 최소한의 비용을 치르고 쉽사리 꼰대가 되지 않는 알고리즘을 개발하기 위해 노력하고 있다. 이 방법들을 일상에 잘 활용한다면 우리는 의사결정을 위한 탐색 과정을 좀더 합리적으로 수행할 수 있을 것이다.

자기 전문 분야에서 빠져나와 새로운 탐색을

일반적으로 경험 많고 전문 지식을 갖고 있는 이들은 한가지 일에만 몰두할 경우 최고의 효율을 낼 수 있다. 하지만 그 길이 과연 최선일까? 저자는 “경쟁이 치열한 현대사회에서 최고의 결과를 얻는 방법은 지금 하는 일을 더 열심히 하는 것이라고 착각하는 데서 벗어”나는 것이라 말한다. 올해 내 모든 것을 쏟아부어 110퍼센트의 성과를 냈다면, 내년엔 120퍼센트의 노력을 기울여야 성장할 수 있다. 이런 상황에서 우리는 경로를 바꿀 생각은 하지 않고 그 경로를 개선해 효율을 극대화하는 데에만 집중한다. 하지만 이는 지속 가능성이 없어 한계에 부딪히게 될 것이다(이런 식으로 출로를 찾는 일에 뒤처지거나 번아웃되는 이들이 얼마나 많은가). 저자는 늘 더 나은 선택을 찾아 탐색을 게을리하지 말 것을 권하며, 하던 일에 대한 기대치를 80퍼센트로 낮추고 나머지 시간과 에너지를 다른 경로 탐색에 들인다면 우리 시야는 국소적인 데 갇히지 않고 더 좋은 길을 찾아낼 것이라고 말한다. 이는 책에서 저자가 시도한 여러 시뮬레이션으로 입증된다.
이를테면 반복 가능한 문제에서 UCB 알고리즘은 기존에 가던 길로만 가지 말라며, 오히려 새롭고 불확실한 것에 가산점을 주는 논리를 따른다. 과연 우리는 새로운 것을 따를 용기를 낼 수 있을까? 단 한 번의 기회만 있다면 최선은 확률이 크고 불확실성이 적은 선택을 하는 것이나, 여러 번의 기회가 주어진다면 ‘탐색’을 통해 불확실성을 줄이고 최적의 선택을 위한 조건을 확보하는 것이 낫다. 직업을 예로 들어보자. 우리가 사는 시대에는 평생 직업을 여러 번 바꿀 수 있다. 그동안 사람들은 의사와 변호사 등 전통적으로 수입이 좋은 것을 선택했지만, 요즘에는 전망 좋은 새로운 직업이 더 많이 생겨났다. 모든 사람이 이미 유명한 직업을 선호하기 때문에 국소적 탐색에 빠지고, 이를 둘러싼 경쟁은 점점 더 치열해진다. 따라서 이런 직업은 예전보다 더 큰 노력을 들임에도 불구하고 만족도는 예전만 못하다. UCB 알고리즘에 따르면, 조금 불확실하더라도 전망 좋은 새로운 직업들을 탐색해보는 것이 최종적인 만족도를 높이는 데 크게 도움이 될 것이다.

***
이 책엔 환자가 병원에서 결정해야 하는 문제에 관해서도 선택의 자유도를 점검하며, 현명한 결정을 하도록 돕는다. 예컨대 수술을 해야 할까, 항암치료를 할까, 말까? 또 건강보조식품은 먹는 게 좋을까에 대해 저자는 올바른 의사결정의 경로를 보여준다.
현명한 사람이란 많은 선택의 옵션을 이미 생각해봤고, 위중도의 우선순위가 있으며, 불확실한 일에 대해 사전 조사를 시행한 사람이며, 이들은 선택의 자유도를 크게 확보하고 있다. 이들은 위중한 문제에서도 더 확신 있게 행동할 수 있고, 의외의 상황에 더 유연하게 대처할 수 있다. 이 책은 이런 선택의 과정을 통계 및 논리와 함께 설득력 있게 펼쳐나간다. 선택의 문제에 있어서 현명함을 타고난 사람은 없다. 현명한 선택의 준비가 되어 있는 사람이 있을 뿐이다.

작가정보

저자(글) 서성욱

성균관대학교 의과대학 삼성서울병원 정형외과 교수. 희귀 암 센터장과 삼성융합의과학원 의료인공지능 연구소 소장을 맡고 있다.
서울대 의과대학을 졸업한 후 석사, 박사 및 정형외과 전문의, 전임의 과정을 마쳤으며, 이후 뉴욕 컬럼비아대학 정형외과 박사후연구원 과정을 거쳤다. 삼성서울병원 재직 중에는 샌디에이고주립대학의 공과대학에서 교환교수를 지냈다.
이후 환자 치료와 직접 관련된 빅데이터 연구를 하면서 현대 인공지능의 기반인 기계학습 분야를 연구하기 시작했고, 생존 분석 딥러닝 알고리즘, 인과관계 강화학습 알고리즘을 비롯한 새로운 알고리즘을 개발해 여덟 개의 특허를 출원하고, 10여 편의 관련 논문을 국제 학술지에 발표한 것이 계기가 되어, 삼성융합의과학원에 의료인공지능 연구소를 개설했다.
최근에는 의료인공지능학회 이사로서 『의료인공지능 백서』를 공동 출간했고, 의학 한림원이 주관하는 연구의 책임자로서 『의료인공지능 개발 및 가이드라인 정립』을 펴냈다. 현재 정보통신산업진흥원이 주관하는 ‘의료인공지능 교육사업’의 세부 책임자로 참여해 개발자 및 의료인을 위한 인공지능 교육과정 개발을 주도하고 있다.