머신러닝 알고리즘

Machine Learning Algorithms in Depth

바딤 스몰야코프 지음 | 소성은 옮김

다이피아 2023년 11월 27일 출간

작품소개

책소개

머신 러닝 알고리즘에서는 다음과 같은 많은 ML 알고리즘의 실제 구현을 살펴봅니다:

Monte Carlo Stock Price Simulation
Mean-Field Variational Inference를 이용한 이미지 노이즈 제거
Hidden Markov Model을 위한 EM 알고리즘
Imbalanced Learning, Active Learning and Ensemble 학습
Hyperparameter Tuning을 위한 Bayesian Optimization
Clustering Application을 위한 Dirichlet Process K-Means
Inverse Covariance Estimation에 기반한 Stock Clusters
Simulated Annealing을 사용한 Energy Minimization
ResNet Convolutional Neural Network 기반 Image Search
Variational Autoencoder를 사용한 Time-Series Anomaly Detection


머신 러닝 알고리즘에서는 오늘날 세계에서 가장 흥미로운 머신 러닝(ML) 알고리즘의 설계와 기본 원리에 대해 자세히 살펴봅니다. 특히 확률 기반 알고리즘에 중점을 두고 베이지안 추론과 딥 러닝의 기본을 배우게 됩니다. 또한 머신 러닝을 위한 핵심 데이터 구조와 알고리즘 패러다임도 살펴봅니다. 각 알고리즘은 수학 및 실제 구현을 통해 완전히 탐구되므로 어떻게 작동하고 어떻게 실행되는지 확인할 수 있습니다.

기술에 대해
머신러닝 알고리즘의 작동 원리를 완전히 이해하는 것은 진지한 머신러닝 엔지니어에게 필수적입니다. 이 중요한 지식을 통해 특정 요구 사항에 맞게 알고리즘을 수정하고, 프로젝트에 사용할 알고리즘을 선택할 때의 장단점을 이해하고, 이해 관계자에게 결과를 더 잘 해석하고 설명할 수 있습니다. 이 특별한 가이드는 천편일률적인 ML 라이브러리에 의존하는 것에서 벗어나 비즈니스 요구 사항을 해결하기 위한 자체 알고리즘을 개발할 수 있도록 안내합니다.

책에 대해
머신 러닝 알고리즘에서는 머신 러닝 알고리즘의 방법과 이유를 자세히 살펴봅니다. 각 알고리즘 범주에 대해 수학 우선 원칙부터 Python으로 직접 구현하는 방법까지 살펴봅니다. 금융, 컴퓨터 비전, 자연어 처리 등 머신 러닝의 모든 분야에 걸친 수십 가지 예제를 살펴볼 수 있습니다. 각 예제에는 인사이트를 얻을 수 있는 코드 샘플과 그래픽은 물론 도출된 결과와 세부 정보가 함께 제공됩니다. 이 책을 다 읽고 나면 주요 알고리즘이 어떻게 작동하는지 알게 되고, 더 나은 머신 러닝 실무자가 될 수 있을 것입니다.

목차

서문
저자 소개
역자 서문

Part 1. 머신러닝 알고리즘 소개

1장. 머신러닝 알고리즘
1.1 머신러닝 알고리즘의 유형
1.2 알고리즘을 수식을 포함한 가장 기초적인 부분부터 배우는 이유는?
1.3 필요한 수학적 지식
1.4 베이지안 추론과 딥러닝
1.5 알고리즘 구현
1.6 요약

2장. Markov Chain Monte Carlo
2.1 Markov Chain Monte Carlo 소개
2.2 Pi 값 추정
2.3 Binomial Tree Model (이항 트리 모델)
2.4 Self-Avoiding Random Walk
2.5 Gibbs Sampling
2.6 Metropolis-Hastings Sampling
2.7 중요도 샘플링(Importance Sampling)
2.8 연습문제
2.9 요약

3장. 변분 추론(Variational Inference)
3.1 KL 변분 추론
3.2 Mean-Field
3.3 Ising 모델의 이미지 노이즈 제거
3.4 MI Maximization
3.5 연습문제
3.6 요약

4장. 소프트웨어 구현
4.1 데이터 구조
4.2 문제 해결 패러다임
4.3 머신러닝 연구: 샘플링 방법과 Variational Inference
4.4 연습문제
4.5 요약

Part 2. 지도 학습

5장. Classification 알고리즘
5.1 Classification 소개
5.2 Perceptron
5.3 Support Vector Machine (SVM)
5.4 Logistic Regression
5.5 Naïve Bayes
5.6 Decision Tree (CART)
5.7 연습문제
5.8 요약

6장. Regression Algorithms
6.1 Regression 소개
6.2 Bayesian Linear Regression
6.3 Hierarchical Bayesian Regression
6.4 KNN Regression
6.5 Gaussian Process Regression
6.6 연습문제
6.7 요약

7장. 엄선된 Supervised Learning 관련 알고리즘
7.1 Markov Models
7.2 Imbalanced Learning
7.3 Active Learning
7.4 모델 선택: 하이퍼파라미터 튜닝
7.5 Ensemble Methods
7.6 ML Research: Supervised Learning 알고리즘
7.7 Exercises
7.8 요약

Part 3. 비지도 학습

8장. 기본적인 Unsupervised Learning 알고리즘
8.1 Dirichlet Process K-Means
8.2 Gaussian Mixture Model (GMM)
8.3 Dimensionality Reduction
8.4 연습문제
8.5 요약

9장. 엄선된 Unsupervised Learning 알고리즘
9.1 Latent Dirichlet Allocation
9.2 Density Estimators
9.3 Structure Learning
9.4 Simulated Annealing
9.5 Genetic Algorithm
9.6 ML Research: Unsupervised Learning
9.7 연습문제
9.8 요약

Part 4. 딥러닝

10장. 기본적인 딥러닝 알고리즘
10.1 Multi-Layer Perceptron
10.2 Convolutional Neural Nets
10.3 Recurrent Neural Nets
10.4 Neural Network Optimizers
10.5 Exercises
10.6 요약

11장. 심화된 딥러닝 알고리즘
11.1 Auto Encoders
11.2 Amortized Variational Inference
11.3 Attention과 Transformers
11.4 Graph Neural Networks
11.5 ML 연구: 딥러닝
11.6 연습문제
11.7 요약

부록 A. 추가로 읽을만한 것들과 리소스들
A.1 프로그래밍 실력 기르기
A.2 추천하는 책들
A.3 연구 관련 컨퍼런스들

부록 B. 연습문제 정답

출판사 서평

이 책을 처음 읽으면서 느낀 것은 내용이 상당히 어렵다는 점이었습니다. 머신러닝 분야에서 오랜 경력이 있음에도 불구하고, 이 책은 수학적인 선행 지식 등을 상당히 요구하기 때문에 읽기 어려웠으며, 번역 과정에서도 여러 어려움이 있었습니다. 그러나 번역을 진행하면서 저 또한 많은 것을 배울 수 있었습니다.

특히 시중의 많은 머신러닝 서적들이 라이브러리 사용에 그치는 경우가 많은데, 이 책은 드물게도 클래식한 머신러닝 알고리즘부터 다루며 수학적인 원리를 철저히 설명하고 있습니다. 이 점에서 이 책은 다양한 측면으로 도움이 되었습니다.

머신러닝은 수학과 통계 등의 선행 지식이 필요한 분야이며, 이 책 또한 그러한 지식을 요구하는 부분이 많습니다. 번역을 진행하면서 독자들이 이 어려운 주제들을 이해하는 데 어려움을 겪지 않을까 걱정이 되는 경우가 많았습니다. 최대한 원문을 유지하면서 내용을 쉽게 풀어쓰려 노력했습니다.

이 책은 도메인 지식이 필요한 부분이 많은데, 예를 들면 9장이 그렇습니다. 해당 부분을 이해하는 데 어려움이 있을 수 있지만, 이는 머신러닝이 현실 세계의 문제를 해결하는 데 많이 활용되기 때문에 해당 분야에 대한 이해가 필요하다는 것을 의미합니다.

또한, 머신러닝 분야는 빠르게 발전하고 다양한 논문과 연구가 나오고 있어서 번역 과정에서는 영어 용어를 최대한 그대로 살리거나 이해를 돕기 위해 병기했습니다. 이는 독자들이 최신 정보와 연구 동향을 따라가기 쉽게 하기 위한 의도였습니다.

이 책의 내용은 어렵지만, 머신러닝 분야에서의 기본기를 탄탄하게 다지는 데 도움을 줄 수 있다고 생각합니다. 머신러닝의 트렌드는 빠르게 변하지만, 전통적인 알고리즘과 기본 원리는 여전히 중요합니다. 이 책을 통해 기본기를 강화하고, 어려운 문제에 대처하는 능력을 키울 수 있을 것입니다.

마지막으로, 이 책은 모두를 위한 책이 아닙니다. ML 모델을 사용하는 초보자라면 이 책이 어려울 수 있습니다. 그러나 복잡하고 어려운 문제를 해결하거나, 새로운 ML 모델을 개발해야 하는 경우에는 이 책을 통해 머신러닝의 본질을 이해하고, 실무에 적용하는 데에는 큰 도움이 될 것이라 기대합니다.

작가정보

저자(글) 바딤 스몰야코프

바딤 스몰야코프(Vadim Smolyakov)는 Microsoft의 엔터프라이즈 및 보안 DI R&D 팀에서 데이터 과학자로 일하고 있습니다. 베이지안 추론과 딥 러닝을 연구하는 MIT CSAIL의 AI 박사 과정 출신입니다. Microsoft에 입사하기 전에는 전자 상거래 분야에서 머신 러닝 솔루션을 개발했습니다.

번역 소성은

2023년 현재 Solutions Architect, Amazon Web Services
(전) CTO, Remake Digital
Research Engineer, NAVER
Research Engineer, Selvas AI
Software Engineer, NextVerb