한 권으로 정리하는 모델 이론

데이터 사이언티스트가 모델을 세우고 학습하며 검증하는 이론의 흐름 (손실함수, 최적화와 정규화, 확률적 모델링)

지식이야기 IT팀 지음

지식이야기 2026년 02월 01일 출간

작품소개

책소개

이 책은 모델을 배우기 시작할 때 가장 먼저 만나게 되는 이론적 골격을 한 권으로 정리한 기초 안내서다. 어떤 대상을 모델로 표현할지, 모델을 함수로 바라보는 관점이 왜 중요한지, 학습을 목표함수와 최적화 문제로 정식화하면 무엇이 명확해지는지처럼 핵심 질문을 따라가며 내용을 구성했다.

설명은 수식 중심의 전개보다 개념 간 연결과 논리의 흐름을 우선한다. 손실함수와 위험 최소화, 일반화와 복잡도, 정규화와 제약, 확률적 모델링과 추정, 불확실성과 검증 체계까지 모델 이론을 이루는 주요 구성 요소들이 어떤 관계를 맺고 있는지 차근차근 드러낸다. 각각의 장은 서로 독립적으로 읽을 수 있으면서도, 앞에서 정의한 관점과 가정이 뒤의 논의로 자연스럽게 이어지도록 설계했다.

이 책은 경험담이나 사례 중심의 응용 대신, 모델 이론의 기본 구조를 정확히 이해하는 데 집중한다. 특정 도구나 프레임워크에 기대지 않고, 어떤 모델을 만나더라도 공통으로 적용되는 언어와 기준을 제공하는 것이 목표다. 모델을 더 깊게 공부하기 위한 출발점이 필요하거나, 이미 알고 있는 개념들을 한 번 더 정리해 탄탄한 기반을 만들고 싶은 독자에게 적합하다.


*생성형 인공지능을 활용하여 제작하고 편집 과정을 거쳤습니다. 편집자의 최종 검토를 거쳐 제작되었습니다.

목차

챕터 1 모델을 세우는 관점과 경계
모델이 다루는 대상과 출력의 정의
입력 공간과 출력 공간의 설정
데이터 생성 과정에 대한 가정
모델 단순화와 근사라는 선택
설명력과 예측력의 구분
모델의 사용 조건과 한계

챕터 2 함수로서의 모델
함수 근사 관점에서의 모델
모수화와 비모수화의 차이
표현력과 제약의 균형
선형성의 의미와 확장
특징 변환과 표현 공간
모델 크기와 자유도의 해석

챕터 3 학습 문제의 정식화
목표함수로 학습을 정의하는 방식
경험적 목표와 이상적 목표의 간극
제약조건이 있는 최적화 문제
확률적 모델에서의 목표 설정
결정 규칙과 예측 규칙의 구성
동일한 문제를 다른 형태로 쓰는 법

챕터 4 일반화 이론의 핵심 구조
학습 오차와 일반화 오차의 관계
표본 크기와 불확실성의 역할
가설 공간의 크기와 복잡도
일반화 경계가 의미하는 것
편향과 분산의 구조적 해석
잡음이 학습에 미치는 영향

챕터 5 손실함수와 위험 최소화
손실함수 선택이 만드는 성질
분류와 회귀에서의 손실 구조
마진 기반 손실의 직관
확률 예측과 적절한 손실
강건한 손실과 이상치의 영향
목표와 평가 기준의 불일치 문제

챕터 6 최적화의 이론적 토대
기울기 기반 갱신의 원리
볼록성의 의미와 장점
비볼록 문제에서의 정지점
학습률이 수렴에 미치는 영향
확률적 최적화의 표본화 효과
조건수와 곡률이 만드는 난이도
초기값 의존성과 대칭성

챕터 7 제약과 정규화의 구조
규제가 생기는 이유와 역할
노름 제약의 기하학적 해석
가중치 감쇠와 매개변수 규모
희소성 유도와 선택 압력
조기 종료의 이론적 의미
모델 선택 기준으로서의 규제

챕터 8 확률적 모델링의 관점
확률 변수로 표현하는 예측
우도 기반 학습의 구조
사전분포와 사후분포의 의미
지도 학습을 확률로 해석하기
생성 관점과 판별 관점의 대비
잠재 변수를 도입하는 이유

챕터 9 추정과 불확실성
점추정과 분포추정의 차이
추정량의 편향과 분산
신뢰구간과 예측구간의 구분
불확실성의 분해와 해석
근사 추론이 필요한 이유
모델 불일치가 만드는 불확실성

챕터 10 검증 체계와 성능 해석
데이터 분할 원칙과 누수 문제
교차검증의 논리적 근거
평가 지표의 성질과 선택 기준
임계값이 성능에 미치는 영향
오차 분석의 구조화 방법
통계적 유의성과 변동성 해석
재현성과 비교의 규칙 설정

인물정보

저자(글) 지식이야기 IT팀