실무로 통하는 LLM 애플리케이션 설계

수하스 파이 지음 | 박조은 옮김

한빛미디어 2025년 10월 20일 출간 국내도서 : 2025년 10월 16일 출간

작품소개

책소개

대규모 언어 모델(LLM)은 그 자체로도 강력한 도구이지만, 이를 실제 제품과 서비스로 발전시키려면 체계적인 설계와 기술 전략이 필요하다. 이 책은 아이디어 단계의 프로토타입을 실제 애플리케이션으로 전환하는 데 필요한 도구, 기법, 설계 전략을 소개한다. 데이터 준비부터 모델 커스터마이징, RAG와 에이전트 같은 고급 활용 기법까지 다양한 사례와 함께 구체적인 활용법을 안내한다. 생성형 AI를 실제 환경에 효과적으로 적용하고 싶다면 이 책에서 실질적인 해답을 찾을 수 있을 것이다.

목차

[PART 1 LLM의 구성 요소]

CHAPTER 1 LLM의 개념과 첫걸음
_1.1 LLM의 정의
_1.2 LLM의 간략한 역사
_1.3 LLM의 영향
_1.4 기업 내 LLM 활용
_1.5 프롬프팅
_1.6 API를 통한 LLM 접근 방법
_1.7 LLM의 강점과 한계
_1.8 첫 번째 챗봇 프로토타입 만들기
_1.9 프로토타입에서 제품화까지
_1.10 마치며

CHAPTER 2 사전 훈련 데이터
_2.1 LLM을 만드는 구성 요소
_2.2 사전 훈련 데이터 요구 사항
_2.3 대표적인 사전 훈련 데이터셋
_2.4 합성 사전 훈련 데이터
_2.5 훈련 데이터 전처리
_2.6 사전 훈련 데이터가 후속 작업에 미치는 영향
_2.7 사전 훈련 데이터셋의 편향과 공정성 문제
_2.8 마치며

CHAPTER 3 어휘와 토큰화
_3.1 어휘
_3.2 토크나이저
_3.3 토큰화 파이프라인
_3.4 마치며

CHAPTER 4 아키텍처와 학습 목표
_4.1 기본 개념
_4.2 의미 표현하기
_4.3 트랜스포머 아키텍처
_4.4 손실 함수
_4.5 내재적 모델 평가
_4.6 트랜스포머 백본
_4.7 학습 목표
_4.8 사전 훈련 모델
_4.9 마치며

[PART 2 LLM 활용하기]

CHAPTER 5 사용 목적에 맞게 LLM 활용하기
_5.1 LLM 생태계 탐색하기
_5.2 적합한 LLM을 선택하는 방법
_5.3 LLM 로딩 방법
_5.4 디코딩 전략
_5.5 LLM에서 추론 실행하기
_5.6 구조화된 출력
_5.7 모델 디버깅 및 해석 가능성
_5.8 마치며

CHAPTER 6 파인 튜닝
_6.1 파인 튜닝의 필요성
_6.2 파인 튜닝: 전체 예제
_6.3 파인 튜닝 데이터셋
_6.4 마치며

CHAPTER 7 고급 파인 튜닝 기법
_7.1 지속적 사전 훈련
_7.2 파라미터 효율적 파인 튜닝(PEFT)
_7.3 여러 모델 결합하기
_7.4 마치며

CHAPTER 8 정렬 훈련과 추론
_8.1 정렬 훈련의 정의
_8.2 강화 학습
_8.3 환각
_8.4 환각 완화 전략
_8.5 인컨텍스트 환각
_8.6 관련 없는 정보로 인한 환각
_8.7 추론
_8.8 LLM에서 추론 유도하기
_8.9 마치며

CHAPTER 9 추론 최적화
_9.1 LLM 추론의 도전 과제
_9.2 추론 최적화 기법
_9.3 연산량 감소 기법
_9.4 디코딩 가속화 기법
_9.5 저장 공간을 절약하는 기법
_9.6 마치며

[PART 3 LLM 애플리케이션 활용 패러다임]

CHAPTER 10 LLM과 외부 도구의 인터페이스
_10.1 LLM 상호작용 패러다임
_10.2 에이전트 정의
_10.3 에이전트 기반 워크플로
_10.4 에이전트 시스템 구성 요소
_10.5 마치며

CHAPTER 11 표현 학습과 임베딩
_11.1 임베딩 소개
_11.2 의미 검색
_11.3 유사도 측정법
_11.4 임베딩 모델 파인 튜닝
_11.5 지시 임베딩
_11.6 임베딩 크기 최적화
_11.7 청킹
_11.8 벡터 데이터베이스
_11.9 임베딩 해석하기
_11.10 마치며

CHAPTER 12 검색 증강 생성(RAG)
_12.1 RAG의 필요성
_12.2 대표적인 RAG 활용 시나리오
_12.3 검색 여부 판단하기
_12.4 RAG 파이프라인
_12.5 메모리 관리를 위한 RAG
_12.6 RAG로 인컨텍스트 학습 예시 선택하기
_12.7 모델 훈련에 RAG 활용하기
_12.8 RAG의 한계
_12.9 RAG 대 긴 컨텍스트
_12.10 RAG 대 파인 튜닝
_12.11 마치며

CHAPTER 13 디자인 패턴과 시스템 아키텍처
_13.1 다중 LLM 아키텍처
_13.2 프로그래밍 패러다임
_13.3 마치며

출판사 서평

LLM, 개념을 넘어 실무 애플리케이션으로!
한 권에 담은 AI 애플리케이션 설계의 시작과 끝

LLM은 이제 단순한 기술 트렌드를 넘어, 기업과 제품 혁신을 이끄는 핵심 기술이 되었습니다. 하지만 아이디어를 실제 서비스로 확장하는 길은 여전히 복잡하고 도전적입니다. 이 책은 이러한 간극을 메우기 위해 탄생했습니다. LLM의 기초 원리부터 최신 활용 패턴까지, LLM을 둘러싼 이론과 실무 노하우를 균형 있게 담아냈습니다.

이 책은 LLM을 이해하고, 활용하고, 제품으로 구현하는 전 과정을 차근차근 밟아갈 수 있도록 안내합니다. LLM의 작동 원리를 직관적으로 이해하고, 프롬프트 설계와 파인 튜닝, RAG, 에이전트 아키텍처 등 최신 활용 기법을 익히며 실제 제품 환경에서 마주하는 문제와 한계를 해결하는 방법을 배울 수 있습니다. 특히 각 장마다 풍부한 실습과 연습 문제를 수록해 단순한 이론 학습을 넘어 직접 실험하며 체득할 수 있도록 구성했습니다. 소프트웨어 엔지니어, 머신러닝 연구자, 제품 관리자 모두가 이 책을 통해 LLM의 복잡한 퍼즐을 하나하나 맞춰 나갈 수 있을 것입니다. AI 시대에 경쟁력을 확보하려는 실무자에게 이 책은 아이디어를 실제 프로덕션으로 이어 주는 가장 실용적인 다리가 될 것입니다.

주요 내용
● 훈련 데이터, 토큰화, 아키텍처, 정렬 훈련을 통한 LLM의 기본 원리
● 프롬프팅, 파인 튜닝, RAG, 에이전트 기반 활용 기법
● 임베딩 검색, 도메인 특화 챗봇, 랭체인 기반 애플리케이션 설계
● 80여 개의 연습 문제와 깃허브 예제 코드로 학습 효과 강화
● 추론 최적화, 프로덕션 아키텍처, 오픈 소스 LLM 비교 등 최신 동향 반영

대상 독자
● 프로덕션 수준의 LLM 서비스를 만들고 싶은 개발자
● 최신 LLM 응용 기법과 활용 패턴을 정리하고 싶은 연구자
● LLM 기술을 실제 서비스와 연결하고 싶은 제품 기획자
● LLM을 활용한 자동화, 지식 검색, 데이터 처리 솔루션을 모색하는 전문가

인물정보

저자(글) 수하스 파이

(Suhas Pai)
10년 넘게 기술 업계에서 일해 온 숙련된 머신러닝 연구자입니다. 2020년부터 와이 콤비네이터(Y-Combinator)의 지원을 받는 AI 및 핀테크 스타트업인 허드슨 랩스(Hudson Labs)의 공동 창립자이자 CTO, ML 연구 책임자로 일하고 있습니다.
허드슨 랩스에서는 도메인 특화 LLM, 텍스트 랭킹, 표현 학습 분야에서 여러 혁신적인 기법을 개발했으며, 이 기법들은 허드슨 랩스 제품의 핵심 기능을 실현하는 기반이 되었습니다. 또한 오픈 소스 LLM 개발에도 활발히 참여해 왔으며, BLOOM LLM 프로젝트의 일환인 빅 사이언스(Big Science) 프로젝트에서 프라이버시 워킹 그룹의 공동 리더로 활동했습니다.
2021년부터는 토론토 머신러닝 서밋(TMLS) 콘퍼런스의 의장으로 활동 중이며 전 세계 AI 콘퍼런스에서 연사로 자주 참여합니다. NLP 분야의 최신 연구를 논의하는 정기 세미나도 직접 주최합니다.

번역 박조은

‘오늘코드’ 유튜브 채널을 운영하며, 파이썬 분야의 마이크로소프트 MVP로 활동하고 있습니다. 웹과 백엔드 개발자로 게임과 광고 회사에서 주로 근무했으며, 다양한 도메인의 기업에서 프로젝트를 진행했습니다. 또한 다수의 대학교와 교육기관, 기업에서 강의를 맡아왔습니다. 『모두의 한국어 텍스트 분석 with 파이썬』(길벗, 2023)의 공저자이며 『NLP와 LLM 실전 가이드』(한빛미디어, 2025)를 우리말로 옮겼습니다.