베이지안 통계학의 이론·계산 및 응용

정윤식 지음

자유아카데미 2025년 03월 01일 출간 국내도서 : 2025년 02월 28일 출간

작품소개

책소개

목차

1장 통계학의 기본이해
1.1 통계적 모형
1.1.1 확률변수와 분포함수
1.1.2 확률변수함수의 분포
1.2 우도함수
1.2.1 우도방정식
1.2.2 뉴톤-랩슨(NR) 알고리즘
*1.2.3 EM(Expectation-Maximization) 알고리즘
1.3 충분통계량과 보조통계량
1.4 고전적 추론
*1.5 통계적 결정론의 기본 개념
1.5.1 기본 정의
1.5.2 결정이론의 라오-블락웰 정리
1.5.3 손실함수
연습문제

2장 베이즈 추정론의 기본 개념
2.1 베이즈 정리의 기본 예제
2.1.1 조건부확률
2.1.2 베이즈 정리의 기본 개념
2.1.3 베이지안과 빈도론자의 조화
2.2 베이즈 추론의 장점
2.3 베이지안 추정방법
2.3.1 사후분포함수 및 혼합분포
2.3.2 베이지안 해석 방법
2.3.3 사후예측분포함수
연습문제

3장 사전분포함수
3.1 객관적 사전분포함수
3.1.1 균등사전분포함수
3.1.2 제프리스 사전분포함수
3.1.3 공액사전분포함수
*3.1.4 변환불변사전분포함수
*3.1.5 초모수의 결정방법
3.1.6 기준사전분포
3.1.7 확률대응사전분포
* 3.2 멱사전분포
연습문제

4장 베이지안 추정
4.1 단모수모형
4.1.1 이항모형
4.1.2 정규모형(분산이 알려진 경우)
4.1.3 정규분포(평균이 알려진 경우)
4.1.4 포아송 모형
4.2 다모수모형
4.3 베이즈 가설검정
*4.4 베이지안 결정이론
*4.5 베이즈 규칙의 허용성
*4.6 베이즈 추정값과 미니맥스 관계
연습문제

5장 베이지안 계산
5.1 사후분포의 극한
*5.1.1 사후분포의 일치성
5.1.2 사후분포의 점근적 정규성
5.2 비정규근사식
5.2.1 수치적분
5.2.2 린들리 근사식
5.2.3 라플라스 근사식
5.2.4 몬테카를로 방법
*5.2.5 사후최빈값(EM 알고리즘의 응용)
5.3 Markov chain Monte Carlo(MCMC) 방법
*5.3.1 자료확대 알고리즘
5.3.2 깁스샘플러
5.3.3 메트로폴리스-하스팅스 알고리즘
*5.3.4 마르코프 연쇄의 기본 개념
*5.3.5 깁스샘플러의 수렴
*5.3.6 메트로폴리스-하스팅스 알고리즘의 수렴
5.4 MCMC 출력 및 수렴진단
5.4.1 MCMC 출력의 사용
5.4.2 번인 및 갭(Gap 또는 Thinning) 효과
5.4.3 통계적 진단검정
* 5.5 가역점프 MCMC(Reversible jump MCMC)
5.5.1 메트로폴리스-하스팅스 알고리즘의 일반적인 설정
5.5.2 확률 숫자를 이용한 정확한 표현
5.5.3 변수차원 문제에 대한 MCMC
5.5.4 가역점프 MCMC을 이용한 예제
연습문제

6장 베이지안 모형선택
6.1 고전적 방법
6.2 베이지안 방법
* 6.3 베이즈 인자의 계산
6.3.1 베이즈 인자와 BIC 관계
6.3.2 베이즈 인자의 근사식
* 6.4 DIC를 이용한 모형 비교
* 6.5 베이지안 P-값
* 6.6 베이즈 인자의 다른 형태
6.6.1 고유 베이즈 인자
6.6.2 부분 베이즈 인자(FBF)
6.6.3 고유사전분포
연습문제

7장 베이지안 통계모형
7.1 다변량 정규분포
7.2 베이지안 다변량 정규모형
7.3 베이지안 다중선형회귀모형
7.3.1 다중회귀모형
7.3.2 성장곡선
7.4 베이지안 이항회귀모형
7.4.1 로짓 모형
7.4.2 프로빗 모형
7.5 베이지안 다항모형
7.6 베이지안 계층모형
7.6.1 경험적 베이즈 추청론
7.6.2 계층적 베이즈 추정론
* 7.7 공간통계모형
7.7.1 공간통계모형의 소개
7.7.2 CAR 모형
7.7.3 질병지도
* 7.8 변환점 문제
7.8.1 변환점을 갖는 지수족
7.8.2 변환점을 갖는 포아송 과정 모형
* 7.9 점진적 제2종 중도절단자료
7.10 포아송 과정에 대한 베이지안 자료분석
연습문제

참고문헌
찾아보기

책 속으로

머리말

이 책은 베이지안 통계학의 방법론을 처음 접하는 대학생, 이를 전공하는 대학원생, 또한 베이지안 방법론을 실제 자료에 사용하고자 하는 자연 및 사회과학 연구자 모두를 대상으로 하였으며, 베이지안 방법론의 기본 교재로 사용할 수 있는 것을 목표로 집필하였다. 베이지안 추정의 개념과 이를 수행하는 계산 방법들을 주로 다루고 있으며, 최근 다양한 여러 분야에서 유용하게 사용되는 베이지안 방법론을 실제 예시를 통하여 소개하고자 하였다. 여기서 사용하는 가장 기본적인 베이즈 정리(Bayes’ rule)는 1770년대 영국의 철학자이자 목사인 토마스 베이즈(Thomas Bayes)가 처음 제안했으며, 프랑스의 유명한 수학자 피에르 시몽 라플라스(Pierre Simon Laplace)가 이를 연구하여 "기존의 믿음을 새로운 정보로 업데이트함으로써 더 나은 결론을 도출할 수 있다"고 간명하게 설명하였다.
베이즈와 라플라스가 서로 독립적으로 베이즈 정리를 제안한 후 250여 년 동안은 수많은 빈도론자들의 강력한 비판과 계산상의 어려움 등으로 베이지안 방법론이 크게 발전하지 못하였다. 그러나 이러한 어려움 속에서도 여러 분야에 다양하게 적용되면서 미미하게나마 조금씩 진전을 보였다. 특히 제2차 세계 대전 때 알렌 튜닝(Alan Turing)이 독일의 암호체계인 에니그마를 해독하여 2차 대전의 종식에 엄청난 기여를 하였으며, 냉전시기에는 유실된 수소 폭탄 및 미국과 러시아의 잠수함을 찾아내는 작업 등에 참여하여 성공을 거두면서 베이지안 방법론의 중요성이 널리 알려지기 시작하였다(McGrayne, 2012). 또한 최근 40여 년 동안 매우 다양한 분야에서 베이지안 자료분석 방법론의 커다란 진전이 있었다. 이러한 베이지안 방법론의 가장 의미 있는 진전은 Gelfand and Smith(1990)가 깁스샘플러(Gibbs sampler)인 샘플링 계산 방법을 베이지안 계산에 접목하는 연구 결과를 발표한 것으로, 베이지안 방법론의 큰 발전의 전환점을 이루었다. Robert and Casella는 세계 베이지안 통계학회에서 Gelfand and Smith(1990)의 논문을 ‘과학계의 예수공헌’이라고까지 극찬하였다. 그 후 여러 베이지안 통계학자와 확률과정론자들에 의하여 깁스샘플러를포함한 마르코프 연쇄 몬테카를로(Markov chain Monte Carlo) 방법으로 더욱 발전하였다.
최근 40년간 베이지안 방법론 연구가 폭발적으로 증가하면서, 일반적으로 사용되는 모든 기법을 포괄하는 단일 교재를 집필하는 것이 점점 더 어려워지고 있다. 2000년대 이후 한글로 번역된 여러 베이지안 통계학 교재들이 출간되었으나, 대부분이 통계 패키지를 이용한 학부 수준의 내용에 집중되어 있어 고급 수준의 설명이 따로 필요한 경우가 많았다. 본서는 이러한 요구를 충족하기 위해 대학원 수준의 내용을 포함하였으며, 학부와 대학원 수준을 구분하기 위해 고급 내용을 별표(*)로 표시하였다. 또한, 연습문제를 학부용(A)과 대학원용(B)으로 구분하여 구성하였다.
제1판은 이미 500페이지를 넘었으며, 페이지 수를 유지하면서도 보다 풍부한 내용을 포함시키기 위해 간결한 예제를 사용하였다. 개요 및 이론 설명에 주력하는 한편, 독자가 추가적으로 탐구할 수 있도록 다양한 참고 문헌을 제시하였다. 그러나 설명이 다소 부족하다 느껴졌으며, 실용적인 활용 측면에서도 보완이 필요하다고 생각하였다. 이에 따라 제2판에서는 다음과 같은 사항을 추가하였다.
첫 번째로, 베이지안 해석에서 가장 중요한 부분인 베이지안 계산을 해결하는 MCMC 알고리즘의 이해를 돕기 위하여 기존의 ‘MCMC 수렴성’에 대한 절을 ‘깁스샘플러의 수렴성’ 및 ‘메트로폴리스-하스팅스 알고리즘의 수렴성’ 두 절로 나누어 보다 자세히 설명하였다.
두 번째로, MCMC 알고리즘을 수행 후 생성되는 MCMC 출력들의 사용 방법과 그것의 수렴진단에 대한 내용들을 5.4절에 새로 추가하였다.
세 번째로, 시시각각 변화하는 모수 공간의 차원 문제를 해결하는 보다 일반적인 MCMC 기법인 가역점프 MCMC 알고리즘을 상세히 설명하고, 몇 가지 예제를 추가하여 5.5절을 새롭게 구성하였다.
마지막으로, 베이지안 방법론의 흐름을 보다 효과적으로 설명하기 위해, 실제 포아송 자료(벵골만 사이클론 자료)를 이용한 분석을 추가하였다. 단순한 모형에서 복잡한 모형까지 단계적으로 발전시키면서, 앞서 설명한 방법들을 적용하는 절차를 새로운 절에 포함하였다.
이 책을 이해하는 데 필요한 배경 지식은 확률과 통계학의 기초 수준이며, 기본적인 개념만 숙지하고 있으면 충분하다. 행렬대수와 미적분학을 알고 있다면 내용을 이해하는 데 도움이 될 것이다. 다만, 별표(*)가 붙은 내용은 대학원 수준으로, 고등미적분학(통계수학), 수리통계학, 확률과정론 등의 기초를 숙지해야 이해할 수 있는 내용이다. 또한, 통계 패키지(특히 WinBUGS)를 활용하면 보다 효과적인 학습이 가능하다.
이 책의 모든 내용은 지난 30여 년간 부산대학교 통계학과의 학부 및 대학원에서 강의하였던 본 저자의 베이지안 관련 수업 내용들을 정리하여 기록한 것들이다. 최대한 체계적으로 구성하려고 노력하였지만, 주제의 논리적 비약이나 어긋남, 부주의로 인한 오타, 설명이 복잡하거나 내용이 부족한 부분 등이 있을 수 있다. 이 점은 양해를 바라며 출간 후 나올 수 있는 수정사항 등은 자유아카데미 홈페이지 자료실(www.freeaca.com)을 통해 게시될 예정이니 참고 부탁드린다.
책이 출간되기까지 많은 도움을 준 자유아카데미 편집부를 비롯하여 원고 정리를 도와준 설상훈, 정정문, 심보현, 신영민에게 진심으로 고마움을 표한다. 또한 항상 든든하게 큰 힘이 되어 준 하늘나라에 계신 부모님, 특히 지금도 하늘나라에서 매일 기도해주실 어머님께 감사드린다. 마지막으로 지난 40여 년 동안 옆에서 힘들 때마다 용기를 잃지 않도록 위로해주고 지지해준 나의 사랑하는 아내와 자기 분야의 연구에 최선을 다하고 있는 두 아들(지훈, 우원)에게 이 책을 바치고 싶다.
이 책을 읽는 모든 이들에게 행운이 있기를 바란다.

작가정보

저자(글) 정윤식

연세대학교 수학과
미국 코네티컷대학교 수학과 이학석사
미국 코네티컷대학교 통계학과 통계학박사
부산대학교 자연과학대학 통계학과 교수
현) 부산대학교 자연과학대학 통계학과 명예교수
한국 베이지안 통계·경제연구원 원장