MLOps 실전 가이드

노아 기프트 , 알프레도 데자 지음 | 이장후 , 이일섭 , 서기원 옮김

한빛미디어 2023년 07월 10일 출간 종이책 : 2023년 07월 07일 출간

작품소개

책소개

이 책은 MLOps와 DevOps의 개념을 종합적으로 이해하고, 깊이 있는 학습을 돕기 위해 다양한 실습을 포함하고 있습니다. 머신러닝 모델의 안정적인 운영을 위한 배포 방법과 AutoML, 컨테이너, 엣지 컴퓨팅, 모델 이식성 등 MLOps의 중요한 기술 영역을 다룹니다. 뿐만 아니라 AWS, 애저 환경, GCP 등 다양한 클라우드 플랫폼에서의 MLOps 경험을 쌓을 수 있도록 실습을 제공합니다. 저자의 실제 경험을 바탕으로 한 MLOps 사례 및 MLOps 실무자들의 인터뷰 내용도 소개하고 있습니다. 부록에서는 MLOps 구현 시 고려해야 할 사항과 MLOps 커리어 준비를 위한 인터뷰 질문 및 기술 포트폴리오에 필요한 작성 Tip도 제공하여 실무에 쉽게 적용할 수 있도록 도와줍니다.

목차

CHAPTER 1 MLOps 세상으로 초대
_1.1 머신러닝 엔지니어와 MLOps의 부상
_1.2 MLOps란?
_1.3 DevOps와 MLOps
_1.4 MLOps 욕구 단계 이론
__1.4.1 DevOps 구현
__1.4.2 깃허브 액션을 사용하여 지속적 통합 구성하기
__1.4.3 DataOps와 데이터 엔지니어링
__1.4.4 플랫폼 자동화
__1.4.5 MLOps
_1.5 마치며
연습해보기
생각해보기


CHAPTER 2 MLOps를 시작하기 위한 기본 개념
_2.1 배시와 리눅스 커맨드 라인
_2.2 클라우드 셸 개발 환경
_2.3 배시 셸과 명령어
__2.3.1 파일 목록
__2.3.2 실행 명령
__2.3.3 파일 탐색
__2.3.4 셸 입출력
__2.3.5 셸 설정
__2.3.6 셸 스크립트 작성
_2.4 클라우드 컴퓨팅 기반과 구성 요소
_2.5 클라우드 컴퓨팅 시작하기
_2.6 파이썬 벼락치기
_2.7 미니멀리스트를 위한 파이썬 튜토리얼
_2.8 프로그래머를 위한 수학 벼락치기
__2.8.1 기술 통계학과 정규분포
__2.8.2 최적화
__[역자 노트]
_2.9 머신러닝의 핵심 개념
_2.10 데이터 과학 해보기
_2.11 간단한 파이프라인 밑바닥부터 작성하기
_2.12 마치며
연습해보기
생각해보기

CHAPTER 3 컨테이너와 엣지 디바이스를 위한 MLOps
_3.1 컨테이너
__3.1.1 컨테이너 런타임
__3.1.2 컨테이너 생성하기
__3.1.3 컨테이너 실행하기
__3.1.4 컨테이너 모범 사례
__3.1.5 HTTP로 모델 서빙하기
_3.2 엣지 디바이스
__3.2.1 구글 코랄
__3.2.2 애저 퍼셉트
__3.2.3 텐서플로 허브
__3.2.4 구글 코랄 엣지 TPU 컴파일러
_3.3 완전 관리형 머신러닝 시스템을 위한 컨테이너
__3.3.1 MLOps 컨테이너 거래하기
__3.3.2 다양하게 활용되는 컨테이너
_3.4 마치며
연습해보기
생각해보기

CHAPTER 4 머신러닝 애플리케이션에 지속적 배포를 적용하기
_4.1 머신러닝 모델 패키징
_4.2 머신러닝 모델의 지속적 배포를 위한 코드형 인프라
_4.3 클라우드 파이프라인 사용하기
__4.3.1 모델 배포 제어하기
__4.3.2 모델 배포를 위한 테스팅 전략
_4.4 마치며
연습해보기
생각해보기

CHAPTER 5 AutoML과 KaizenML
_5.1 AutoML
__5.1.1 MLOps 산업 혁명
__5.1.2 AutoML vs KaizenML
__5.1.3 피처 스토어
_5.2 애플 생태계
__5.2.1 애플의 AutoML: Create ML
__5.2.2 애플의 Core ML
_5.3 구글의 AutoML과 엣지 컴퓨터 비전
_5.4 애저의 AutoML
_5.5 AWS AutoML
_5.6 오픈 소스 AutoML
__5.6.1 Ludwig
__5.6.2 FLAML
_5.7 모델 설명력
_5.8 마치며
연습해보기
생각해보기

CHAPTER 6 모니터링과 로깅
_6.1 클라우드 MLOps와 관찰가능성
__[역자 노트]
_6.2 로깅 기초
_6.3 파이썬에서 로깅 실습하기
__[역자 노트]
__6.3.1 로그 수준 설정하기
__6.3.2 여러 애플리케이션을 동시에 로깅하기
_6.4 모니터링과 관찰가능성
__6.4.1 모델 모니터링의 기초
__6.4.2 AWS 세이지메이커에서 드리프트 모니터링하기
_6.5 애저 머신러닝에서 드리프트 모니터링하기
_6.6 마치며
연습해보기
생각해보기


CHAPTER 7 AWS를 이용한 MLOps
_7.1 AWS에 입문하기
__7.1.1 AWS 제품 사용해보기
__7.1.2 AWS와 MLOps
_7.2 AWS를 이용한 MLOps 레시피
__7.2.1 명령행 인터페이스 도구
__7.2.2 플라스크 마이크로서비스
_7.3 AWS 람다 레시피
__7.3.1 AWS 람다-SAM: 로컬 환경에서 사용하기
__7.3.2 AWS 람다-SAM: 컨테이너화하여 배포하기
_7.4 현실의 문제를 해결하기 위한 AWS 머신러닝 제품과 조언
__[인터뷰] 스포츠 SNS 서비스의 사례
__[인터뷰] AWS 머신러닝 기술 전도사 줄리앙의 커리어 조언언
_7.5 마치며
연습해보기
생각해보기


CHAPTER 8 애저 환경과 MLOps
_8.1 애저 CLI와 파이썬 SDK
_8.2 인증
__8.2.1 서비스 주체
__8.2.2 API 서비스 인증
_8.3 컴퓨팅 인스턴스
_8.4 배포
__8.4.1 모델 등록
__8.4.2 데이터셋 버전 관리
__[역자 노트]
_8.5 컴퓨팅 클러스터에 모델 배포하기
__8.5.1 클러스터 구성하기
__8.5.2 모델 배포하기
_8.6 배포 문제 해결하기
__8.6.1 로그 검색하기
__8.6.2 애플리케이션 인사이트
__8.6.3 로컬 환경에서의 디버깅
_8.7 애저 머신러닝 파이프라인
__8.7.1 퍼블리싱 파이프라인
__8.7.2 애저 머신러닝 디자이너
_8.8 머신러닝 생애 주기
_8.9 마치며
연습해보기
생각해보기

CHAPTER 9 구글 클라우드 플랫폼과 쿠버네티스
_9.1 구글 클라우드 플랫폼 둘러보기
__9.1.1 지속적 통합과 지속적 배포
__9.1.2 hello world 쿠버네티스
__9.1.3 클라우드 네이티브 데이터베이스 선택과 설계
_9.2 구글 클라우드 플랫폼에서의 DataOps
_9.3 머신러닝 모델 운영
_9.4 마치며
연습해보기
생각해보기

CHAPTER 10 머신러닝 상호운용성
_10.1 상호운용성이 중요한 이유
_10.2 ONNX: Open Neural Network Exchange
__10.2.1 ONNX Model Zoo
__10.2.2 파이토치를 ONNX로 변환하기
__10.2.3 텐서플로를 ONNX로 변환하기
__10.2.4 애저에서 ONNX 모델 배포
_10.3 애플의 Core ML과 ONNX
_10.4 엣지 통합
_10.5 마치며
연습해보기
생각해보기


CHAPTER 11 MLOps 명령줄 도구와 마이크로서비스 구축
_11.1 파이썬 패키징
_11.2 Requirements 파일
_11.3 명령줄 도구
__11.3.1 데이터셋 린터 생성
__11.3.2 명령줄 도구 모듈화
_11.4 마이크로서비스
__11.4.1 서버리스 기능 만들기
__11.4.2 클라우드 기능 인증
__11.4.3 클라우드 기반 명령줄 인터페이스 구축
_11.5 머신러닝 명령줄 인터페이스 워크플로
_11.6 마치며
연습해보기
생각해보기


CHAPTER 12 MLOps 실사례 연구
_12.1 머신러닝에서 무지함이 주는 뜻밖의 이점
_12.2 스포츠 소셜 네트워크의 MLOps 프로젝트
__12.2.1 기계적인 반복 작업: 데이터 라벨링
__12.2.2 인플루언서 등급
__12.2.3 인공지능 프로덕트
_12.3 현실 vs 완벽한 기술
_12.4 MLOps의 중요한 과제
__12.4.1 윤리적 문제와 의도치 않은 결과
__12.4.2 운영 능력의 부족
__12.4.3 기술력에 집중할 것인가, 비즈니스에 집중할 것인가
__[인터뷰] MLOps 실무자 피에로 몰리노
__[인터뷰] MLOps 실무자 프란체스카 라제리
_12.5 MLOps 구현을 위한 마지막 권장 사항
__12.5.1 데이터 거버넌스와 사이버보안
__12.5.2 MLOps 구축 시 자주 언급되는 개념과 도구들
_12.6 마치며
연습해보기
생각해보기

부록 A. 기술 자격증
부록 B. MLOps를 위한 기술 포트폴리오 작성 Tip

출판사 서평

MLOps는 AI 시대에 맞춰 진화한 DevOps로 알려져 있습니다. 간단히 말해 MLOps는 DevOps 방법론을 활용하여 머신러닝을 자동화하는 프로세스라고 할 수 있습니다. DevOps의 핵심 철학 중 하나인 자동화에 대한 중요성을 강조하는 측면에서 MLOps는 DevOps의 계보를 잇는 것입니다.
『MLOps 실전 가이드』는 MLOps와 DevOps의 이론뿐만 아니라 머신러닝 모델을 실제 운영 환경에서 배포하고 관리하는 방법과 자동화에 필수적 요소인 지속적인 통합(CI)와 지속적인 배포(CD), 더 나아가 지속적인 개선이라는 의미를 가진 카이젠(Kazien) 개념까지 포괄적으로 다룹니다. 더불어 AWS, Azure, Google Cloud Platform과 같은 플랫폼에서 MLOps를 구현하는 방법과 역자가 경험했던 MLOps 실제 사례도 포함하고 있습니다.
이 책은 MLOps에 대한 개념을 통찰력 있게 설명하고자 합니다. ChatGPT를 활용한 번역이 아닌 역자진이 원문을 직접 번역하고, 소스 코드를 리팩토링하여 사례별 Hands-on 실습 코드를 제공합니다. 또한 본문에 등장하는 ‘역자 노트’는 역자가 최신 내용을 참고하여 직접 설명을 추가해 독자들이 더 잘 이해할 수 있도록 하였습니다. 각 장이 끝날 때마다 등장하는 ‘연습해보기’와 ‘생각해보기’를 통해 학습한 내용을 복습하고 비판적인 사고를 가지며 MLOps의 다양한 인사이트를 얻을 수 있습니다.

대상 독자

● MLOps 코드와 함께 문서를 작성해야 하는 소프트웨어 개발자
● 다양한 플랫폼에서의 MLOps를 경험하고 싶은 개발자
● 머신러닝 개발과 함께 실제 서비스 배포를 위한 엔지니어링이 궁금한 개발자

작가정보

저자(글) 노아 기프트

Pragmatic A.I. Labs의 창업가다. 현재 몇몇 주요 대학의 학생 및 교수진을 대상으로 머신러닝 및 클라우드 아키텍처 컨설팅을 제공하고 있다. 대학원 기계 학습, MLOps, AI, 데이터 과학 과정을 가르치고 설계한다.

저자(글) 알프레도 데자

열정적인 소프트웨어 엔지니어이자 연설가 겸 작가다. 20년 정도 DevOps와 소프트웨어 엔지니어링 경험을 지닌 전직 올림픽 선수이기도 하다. 현재 머신러닝 엔지니어링을 가르치고 있으며 소프트웨어 개발, 개인 프로젝트, 운동에 대해 전 세계를 돌아다니며 강연하고 있다. DevOps와 파이썬에 관한 책을 여러 권 저술했으며 인프라, 테스트, 강력한 개발 사례에 대한 자신의 견해를 계속 공유하고 있다.

번역 이장후

대학교에서 컴퓨터공학을 공부하다가 갑자기 휴학 후 창업에 도전해 칵테일 바를 열어보기도 하고, 자율주행 킥보드를 만드는 일에 1년 6개월간 뛰어들었다가 최근에는 AI MSP를 다루는 회사에서 데이터 사이언티스트로 일하기도 했다. 이 소개를 쓰는 순간에는 학생 신분으로 프랑스에서 경험을 쌓고 있다.
살아가며 배우고 느낀 것들을 광적으로 쓰고 기록하며 롤모델의 이름을 딴 개인 블로그 다빈치 작업실(https://davincijang.space)에 포스팅하고 있다.

번역 이일섭

데이터 분석 전공으로 석사과정을 졸업하고 현재 신한카드 AI솔루션팀에서 근무하고 있다.
데이터 커뮤니티 데이터야놀자에서 활동하고 있으며, 『데이터 품질의 비밀』(디코딩, 2023)을 번역하였다.

번역 서기원

GS 리테일에서 머신러닝 엔지니어 및 데이터 플랫폼 엔지니어로 근무하고 있다. 2022년 하반기에는 GS 리테일 우수사원상을 수상하였다. 클라우드 기반 MLOps 파이프라인 설계 및 구현에 전문성을 갖추고 있으며, 효율적이고 현대적인 아키텍처를 구축하는 데 관심이 있다.
최근에는 데이터 분석 플랫폼의 고도화와 기술 지원을 담당하며 아키텍처 고도화, IaC, 데이터 저장 정책 및 메커니즘, 비용 최적화, 모니터링, 분석 환경 정책 등 다양한 영역의 업무를 수행하고 있다.
2018년 IITP의 지원을 받아 퍼듀 대학교에서 빅데이터와 관련된 연구와 프로젝트를 수행하면서 데이터에 대한 관심을 키웠다.