베이즈주의

이영의 지음

한국문화사 2018년 09월 07일 출간 종이책 : 2015년 08월 25일 출간

작품소개

책소개

베이즈주의는 확률추리 및 통계추리에 관한 이론으로서 철학, 사회학, 경제학, 수학, 통계학, 전산학, 인공지능, 생물학에 이르는 광범위한 학문 분야에 활용되고 있다. 『베이즈주의』는 베이즈주의가 객관성을 확보할 수 있는 방안을 철학을 비롯하여 인지심리학, 진화심리학, 베이즈망 이론 등 여러 관련 분야의 연구 결과를 참조하면서 다각적으로 분석하는 책이다.

목차

감사의 글
일러두기
머리말

서론: 21세기 베이즈주의

제1부

01 베이즈주의적 합리성
신념도로서의 확률
합리성 원리
주관적 확률사전확률의 수렴

02 이론적 장치들
확률공리체계
조건화 규칙
더치북 논증
역추리

제2부

03 베이즈주의적 입증과 의사결정
베이즈주의적 입증
뒤엠 문제
오래된 증거의 문제
베이즈주의적 의사결정

04 합리성에 대한 도전
어림법과 편향
진화심리학
제한된 합리성
심슨 역설

05 객관성에 대한 도전
관찰의 이론 의존성
공약 불가능성
이론 미결정성
사회구성주의

제3부

06 객관성으로의 첫 번째 여정
객관성의 의미와 객관적 베이즈주의
정지규칙과 베이즈주의
엄격한 시험
베이즈망

07 객관성으로의 두 번째 여정
사회적 합의
증언: 전통적 접근
증언: 골드먼의 베이즈주의적 접근
증언과 정합성

후주
참고문헌
찾아보기

책 속으로

[머리말]

학부 시절 [과학철학] 수업에서 처음으로 베이즈주의를 접했을 때의 놀라움을 나는 아직도 기억하고 있다. 당시 막연히 알고 있던 합리적 사고의 전형을 베이즈주의를 통해서 보았기 때문이다. 확률론의 정교한 체계를 활용하여 마치 자유낙하하는 물체를 물리학의 법칙에 따라 설명하듯이 사고과정을 기술할 수 있다는 점에 매료되었다. 그렇지만 베이즈주의를 20년 동안 연구해 보면서 내 마음 속에는 베이즈주의에 대한 한 가지 의구심이 피어오르기 시작했는데 그것은 바로 “합리성만으로 이성적 판단을 보증할 수 있는가?”라는 것이었다. 이런 생각은 죄수의 딜레마(prisoner’s dilemma)나 심슨 역설(Simpson’s paradox)을 접하면서 내가 앞으로 도전해야 할 학문적인 문제로 형태를 잡아갔다. 죄수의 딜레마가 보여주는 것은 거기에 등장하는 두 명의 죄수가 각자 자신이 합리적으로 판단한다고 생각하고 있지만 전체적으로 보았을 때 자신에게 결코 최선의 결과가 될 수 없는 선택을 한다는 점이다. 여기에는 개인의 판단과 집단의 판단이라는 개념 간 긴장이 있다. 나의 의문에 대해 누군가 베이즈주의는 개인의 판단에 초점을 두며 집단의 판단 또는 사회적 판단은 개인들의 판단의 총합으로 보아야 한다고 대답할 수 있을 것이다. 하지만 그 경우에도 어떻게 개인들의 판단의 총합이 합리적이 될 수 있는지를 질문할 수 있다는 점에서 나의 의문은 풀리지 않은 채 남아있다.

토머스 쿤(Thomas Kuhn)은 패러다임 개념을 통하여 나의 의문점에 대한 한 가지 대답을 제시했다. 쿤에 따르면, 패러다임은 특정 과학자 사회의 구성원들이 도출한 합리적 판단의 결과가 아니라 그들 간 합의와 조정의 결과이다. 패러다임의 출현이 그런 것처럼 과학혁명 기간 동안 신구 패러다임의 교체 역시 합리적 숙고의 결과라기보다는 설득을 비롯한 비합리적 요인들에 의해 좌우된다. 이처럼 패러다임의 형성과 교체가 합리성을 보여주지 않는다면 거기에는 과학 이론이 갖추어야 할 다른 덕목이 있을 것이라고 생각된다.

확률 이론으로서 베이즈주의(Bayesianism)는 여러 가지 특징을 갖고 있지만 그중에서 으뜸가는 것은 과학 방법론에서 잘 나타난다. 입증(confirmation), 설명, 증거 등과 같은 과학 방법론의 핵심 주제들에 대해 귀납주의(inductivism), 반증주의(falsificationism), 가설연역법(Hypothetico- deductive method) 등이 정성적인 분석을 제시해 왔는데, 베이즈주의는 그에 비해 확률 계산법에 기반을 둔 엄밀하고 정교한 정량적 분석을 제공하는 장점을 갖고 있다. 특히 베이즈주의는 과학철학의 몇 가지 대표적 난제를 해결할 수 있음을 보여주었다. 예를 들어, 입증에 대한 헴펠(Hempel)의 이론이 갖는 한계를 극복하거나 뒤엠 문제(Duhem problem)와 까마귀 역설(raven paradox)의 해결 등이 그것이다. 이런 이유로 베이즈주의는 20세기에 들어서 과학 방법론으로서 자연과학뿐만 아니라 사회과학 분야의 연구자들에 의해 널리 채택되었다. 베이즈주의의 르네상스가 시작된 것이다.

이런 이유로 베이즈주의는 전성기를 누리고 있지만 다른 한편으로는 해결되어야 할 문제도 많은데 그 성격은 이론적인 것도 있고 경험적인 것도 있다. 형식적 엄밀함과 확률적 정교함이 베이즈주의의 장점이라면 그것들의 대척점이 약점으로 나타난다. 베이즈주의를 특징짓는 근본 요소들은 여전히 논란의 대상이며 그 정당성을 의심받고 있다. 베이즈주의에 따르면 확률은 사람들이 사건이나 명제에 대해 갖는 신념도(degree of belief)이다. 베이즈주의적 행위자의 신념도 형성, 신념도의 변화, 신념도의 변화에 따른 행위를 규제하는 가장 중요한 요소는 합리성이다. 베이즈주의적 행위자의 합리적 행위는 확률공리체계를 준수할 것으로 기대된다. 베이즈주의를 반대하는 학자들은 이 지점에서 다양한 비판을 쏟아낸다. 그중에서 중요한 것으로는 확률공리를 따르는 것만으로 행위의 합리성을 규제할 수 있는가, 합리성 이외에 다른 규제가 필요한 것은 아닌가 하는 비판이 있다. 물론 베이즈주의자들이 고민해야 할 다른 중요한 비판이 많이 있지만 내가 보기에 이 문제는 베이즈주의의 아킬레스건이다.

출판사 서평

“베이즈주의의 본질은 합리성이 아니라 간주관성으로서의 객관성이다”
사회적 합리성을 베이즈주의적으로 분석할 수 있게 해주고
베이즈주의가 객관성을 확보할 수 있는 방안을 다각적으로 분석한 책

이 책은 베이즈주의가 객관성을 확보할 수 있는 방안을 철학을 비롯하여 인지심리학, 진화심리학, 베이즈망 이론 등 여러 관련 분야의 연구 결과를 참조하면서 다각적으로 분석한다.

베이즈주의는 확률추리 및 통계추리에 관한 이론으로서 철학, 사회학, 경제학, 수학, 통계학, 전산학, 인공지능, 생물학에 이르는 광범위한 학문 분야에 활용되고 있다.

그동안 베이즈주의적 합리성은 확률 공리체계를 준수하는 것으로서 인식되어 왔는데 저자는 그런 기존의 입장을 비판하고 베이즈주의의 본질은 합리성이 아니라 간주관성으로서의 객관성에서 찾아야 한다고 주장한다. 이런 견해는 베이즈주의의 아킬레스건인 주관성을 극복하고 최근 학계에서 활발히 논의되고 있는 사회적 합리성을 베이즈주의적으로 분석할 수 있는 장점을 갖는다.

이 책은 3부로 구성되어 있다. 제1부에서는 추리 이론으로서의 베이즈주의의 중심 내용인 베이즈주의적 합리성과 여러 이론적 장치들(확률공리체계, 조건화 규칙, 더치북 논증, 역추리)이 검토된다.

제2부에서는 베이즈주의 인식론의 핵심인 입증과 의사결정론이 뒤엠문제, 오래된 증거의 문제를 중심으로 분석되고, 이어서 베이즈주의적 합리성에 대해 인지심리학과 진화심리학의 도전, 객관성에 대한 철학 및 사회구성주의의 도전에 대한 검토를 통해 베이즈주의의 문제점과 지향점이 검토된다.

제3부에서는 객관성을 향한 베이즈주의의 접근 방식이 논의된다. 먼저 객관적 베이즈주의가 저자가 의도하는 객관성을 확보할 수 없는 이유가 제시되고 이어서 개인적 차원을 넘어서 사회적 합의에 도달하는 과정을 분석할 수 있는 베이즈주의적 방안이 모색된다.

** 책속으로 추가

베이즈주의가 과학적 추론과 과학 방법론에 관한 좋은 이론으로 남으려면 나의 의문에 대해 충분히 납득할 수 있는 설명을 제공해야 할 것이다. 이 책은 베이즈주의를 지지하는 입장에서 그 목적을 달성하기 위한 하나의 시도이다. 이 책의 목표는 과학 방법론으로서의 베이즈주의가 지닌 일차적 덕목을 합리성이 아니라 객관성으로 보고 그것을 확보할 길을 구체적으로 모색하는 데 있다. 주관적 베이즈주의(subjective Bayesianism)에 따르면 확률은 개인의 신념도이며, 베이즈주의적 합리성은 개인의 신념도로서의 확률에 대한 주관적 해석을 바탕으로 성립한다. 주관적 베이즈주의의 근본 문제 중 하나는 그렇게 정의된 합리성이 최소한의 규제만을 받는다는 데 있다. 즉 개인의 믿음 체계는 확률론의 공리 체계를 준수하고 일관성을 위배하지 않는 한 합리적이라고 판정된다. 그러나 이렇게 간단명료하게 이해된 베이즈주의적 합리성 개념이 과연 경험적 영역을 다루는 과학적 추론 및 과학 방법론에 적절히 적용될 수 있는지는 매우 의심스럽다.

베이즈주의가 그동안 이룩한 이론적 성공들은 주로 이상적인 환경에서 획득된 것이었다. 그러나 과학적 방법과 그것의 산물인 과학적 지식은 이상적 조건에서 이루어지지 않은 경우가 많고 더욱이나 과학적 판단의 최종 주체가 개별 과학자들이 아니라 과학자 사회라는 점을 감안하면 주관적 합리성 개념만으로는 과학성을 확보하는 데는 무리가 있다. 나는 이 책을 통하여 과학 방법론으로서 베이즈주의의 성공 여부는 적절한 방식을 통해 객관성을 얼마나 확보할 수 있는지에 달려있다고 보고 그 가능성을 확보하는 데 주력할 것이다.

이 책은 구체적으로 다음과 같은 문제 상황에서 출발한다.

베이즈주의는 확률론의 공리체계에 기반을 둔 합리성을 요청한다.
베이즈주의는 확률을 주관적으로 해석하기 때문에 과학 방법론에 주관적 요인을 크게 허용한다.
과학적 방법과 지식의 본성은 객관적이다.
그러므로 베이즈주의는 과학의 객관성을 적절히 설명할 수 없다.

나는 이 책에서 위의 결론은 성급한 것이며 베이즈주의는 주관적 합리성과 관련된 문제들을 극복하고 객관성을 확보할 수 있다는 점을 보일 것이다. 이 책의 문제의식은 순수한 확률적 관점에서 고려되는 베이즈주의의 합리성은 이론적으로 한계가 있으며 그로 인하여 불필요하게 많은 문제가 발생한다는 진단과 더불어 그런 한계를 벗어나려면 논의의 초점을 합리성이 아니라 객관성에 두어야 한다는 것이다. 이러한 문제의식은 베이즈주의를 다룬 많은 문헌에서 부분적으로 제기되어 왔지만 분명한 형태로 다루어진 적은 드물다. 예외적인 경우는 이어만(Earman, 1992)이다. 이어만은 과학적 추리의 합리성과 객관성을 다룬 부분에서 “합리성에 관한 이슈는 객관성에 대한 이슈와 결합된다”라고 표현함으로써 이 책의 문제의식을 분명히 드러냈다. 이어만의 견해는 내가 이 책을 저술하기로 결심하는 데 결정적 역할을 했음을 이 자리를 빌려 밝히고자 한다.

이 책은 3부로 구성되어 있다.

제1부: 베이즈주의적 합리성을 규정하고 그런 합리성을 뒷받침하는 이론적 틀을 검토한다.
제2부: 베이즈주의적 합리성에 대한 도전들과 객관성에 대한 도전들을 검토한다.
제3부: 합리성의 문제들을 베이즈주의 이론적 틀 안에서 해결함으로써 객관성을 확보할 방안을 제시한다.

이 책의 목표를 달성하기 위해 베이즈 정리(Bayes’s theorem)와 관련하여 두 가지 연구가 진행될 것이다. 첫째, 베이즈 정리에 나타난 확률들(사전확률, 사후확률, 가능도)을 객관적으로 해석할 방안을 제시한다. 이러한 방안은 새먼(Salmon, 1990)의 연구에서 나타나는데, 나는 램지(Ramsey)의 입장에서 새먼의 접근이 갖고 있는 문제점을 극복하는 방안을 모색할 것이다. 이러한 작업이 수행되어야만 우리는 개인적 신념도의 변화를 제대로 논의할 수 있다. 둘째, 나는 개인적 차원을 넘어서 사회적 차원에서 신념도의 변화를 다룰 방안을 제시한다. 앞에서도 언급했듯이 객관성을 확보하기 위해 베이즈주의가 해결해야 할 일차적 과제는 개인적 신념도가 사회적 신념도로 변환되는 과정을 설명하는 것이다. 베이즈주의자들은 전통적으로 이런 요청을 애써 무시해 왔는데 골드먼(Goldman, 1999), 보벤스와 하르트만(Bovens and Hartmann, 2003), 피텔슨(Fitelson, 2003)의 연구를 통하여 점차로 그 중요성이 부각되고 있다.

전통적 과학관에 따르면 과학은 실재에 대한 객관적 이론을 산출할 방법을 제공하며, 과학자들은 그런 방법을 장기적으로 적절히 적용하여 실재에 대한 참된 이해에 도달할 수 있다. 그러나 이러한 의미에서의 과학의 객관성은 논리실증주의 이후로 쿤, 핸슨(Hanson), 파이어아벤트(Feyerabend)뿐만 아니라 사회구성주의자들에 의해서도 심각한 도전을 받아왔다. 이 책에서 추구되는 객관성은 전통적 의미의 객관성이 아니라 과학자 사회의 구성원들 사이에서 간주관적 합의를 통해 확보되는 객관성이다. 현재의 주관적 베이즈주의가 과학자 사회에서 성립하는 간주관성으로서의 객관성을 적절히 설명하지 못하고 있다고 해서 앞으로도 그럴 것이라고 단정할 필요는 없다. 주관적 베이즈주의의 지지자들은 일반적으로 개인적 차원에서는 베이즈주의적 합리성을 수용하고 장기적 차원에서는 신념 개정을 통한 사전확률(prior probability)의 수렴을 활용하여 객관성에 접근하는 전략을 취하고 있다. 그러나 여러 비판이 보여주듯이 베이즈주의적 합리성과 사전확률의 수렴만으로는 과학의 객관성을 확보하기는 매우 어렵다. 주관적 베이즈주의의 과제는 개인적 차원에서의 신념도의 수렴을 넘어 사회적 차원에서 수렴을 반영하는 것이다. 물론 베이즈주의자들은 사전확률의 임의적 부여를 제한하는 데 초점을 둔 객관적 베이즈주의(objective Bayesianism)를 지지할 수 있지만 이어만이 지적했듯이 이런 시도는 제한적으로만 성공적이다. 나는 주관적 베이즈주의와 객관적 베이즈주의의 한계를 극복하고 객관성을 확보할 방안으로서 다양한 원천에서 나온 보고와 증언에서 사회적 합의를 이끌어내는 베이즈주의적 방법을 제시할 것이다.

쿤은 효율적인 의사결정의 주체는 개별 과학자들이 아니라 과학자 사회라고 보았다. 전문가 집단에서 성립된 간주관적 합의가 객관성 확보를 위한 필요조건이라는 점에서 쿤이 객관성을 과학자 사회 안에서 추구한 것은 올바른 전략이었다. 그러나 쿤은 개별 구성원들이 서로 다른 견해를 갖고 있을 때 과학자 사회가 일정한 결정에 도달하는 과정이나 방법을 제시하지 않았고 오히려 그런 과정이나 방법은 합리적이 아니라고 주장함으로써 상대주의를 향한 문을 열어 놓았다. 이어만은 쿤이 우리에게 남겨놓은 과제, 즉 상대주의를 극복하는 것이 쉽지 않으리라는 비관적인 견해를 피력했다. 이 책의 지향점은 쿤이 부정했고 이어만이 포기한 부분, 즉 과학의 객관성에 대한 베이즈주의적 접근을 제시하는 데 있다.

마지막으로 책을 시작하기 전에 분명히 해 두어야 할 점이 몇 가지 있다. 첫째, 이 책은 베이즈주의가 과학적 객관성을 확보할 방안을 연구하므로 과학적 방법과 그 산물인 과학적 지식이 객관적이라는 점을 전제하고 있다. 그런 가정에 대한 논쟁이 과학철학 진영 내부에서 계속되어 왔고, 포스트모더니즘적 과학 비판과 사회구성주의는 그 점에 대해 심각한 회의를 제기했다는 것은 잘 알려진 사실이다. 그럼에도 불구하고 여기서는 과학적 방법과 지식은 근본적으로 객관적이라고 가정하고 과학의 객관성에 대한 비판적 입장들에 대해 직접적인 반박을 시도하지는 않을 것이다. 둘째, 이 책은 과학 방법론으로서의 베이즈주의를 직접적으로

작가정보

저자(글) 이영의

저자 이영의는 강원대학교 인문과학연구소 HK교수. 고려대학교 철학과를 졸업하고 뉴욕주립대학교(빙헴톤)에서 과학철학을 전공하여 박사학위를 받았다.
과학방법론, 베이즈주의 인식론, 인지과학철학, 체화인지이론, 철학치료, 인문치료에 관심을 두고 있으며, 최근에는 체화인지이론과 목적론적 인간 이해를 상담치료에 적용하는 이론과 모형을 개발하고 있다.
저서로는 『귀납논리와 과학철학』(2000, 공저), 『마음학』(2010, 공저), 『과학방법론』(2011, 공저), 『왜 철학상담인가』(2012, 공저), 『신경과학철학』(출간 예정) 등이 있다.