실전! LLM을 활용한 생성형 AI 애플리케이션 개발

LLM 선정부터 프롬프트 엔지니어링, RAG, 멀티모달 에이전트 구축과 미세 조정까지

발렌티나 알토 지음 | 최용 옮김

위키북스 2025년 02월 05일 출간 국내도서 : 2024년 11월 15일 출간

작품소개

책소개

《실전! LLM을 활용한 생성형 AI 애플리케이션 개발》은 LLM이 제공하는 기본 개념, 최신 기술, 실용적인 응용 방법을 심도 있게 설명하고, 궁극적으로 AI의 경계를 확장하는 대규모 파운데이션 모델(LFM)까지 다룹니다.

이 책은 LLM을 깊이 있게 소개하는 것으로 시작합니다. 이어서 독점 모델(GPT 3.5/4)과 오픈소스 모델(Falcon LLM)을 비롯한 다양한 주류 아키텍처 프레임워크를 살펴보고, 각각의 강점과 차이점을 분석합니다. 나아가 파이썬 기반의 경량 프레임워크인 랭체인을 중심으로, LLM과 강력한 도구를 사용해 비정형 데이터에서 정보를 찾아내고 구조화된 데이터와 상호작용할 수 있는 지능형 에이전트를 만드는 과정을 안내합니다. 또한 이 책은 언어 모델링을 넘어 다양한 AI 작업과 영상이나 오디오 같은 유형의 데이터까지 포괄하는 LFM의 영역까지 다룹니다.

AI 전문가든 이제 막 AI에 입문하는 초보자든, 이 책은 LLM의 잠재력을 최대한 발휘하고 지능형 AI 시스템의 새로운 시대를 열어가기 위한 로드맵이 될 것입니다.

★ 이 책에서 다루는 내용 ★

◎ 인코더-디코더 블록과 임베딩을 포함한 LLM 아키텍처의 핵심 구성요소 탐구
◎ GPT-3.5/4, Llama 2, Falcon LLM 같은 LLM의 특징 이해
◎ 프런트엔드용 스트림릿(Streamlit)과 랭체인 등의 AI 오케스트레이터 활용
◎ 메모리, 프롬프트, 도구와 같은 LLM 구성요소 숙지
◎ 비모수적 지식과 벡터 데이터베이스 활용법 학습
◎ AI 연구와 산업 응용에서 LFM이 갖는 의미 이해
◎ 파인 튜닝을 통한 LLM 커스터마이징

목차

[1부] 대규모 언어 모델 기초

▣ 01장: 대규모 언어 모델 소개
1.1 대규모 파운데이션 모델과 LLM이란 무엇인가?
__1.1.1 AI 패러다임 전환과 파운데이션 모델 소개
__1.1.2 LLM의 내부
1.2 널리 사용되는 LLM 트랜스포머 기반 아키텍처
__1.2.1 초기 실험
__1.2.2 트랜스포머 아키텍처 도입
1.3 LLM 훈련과 평가
__1.3.1 LLM 훈련
__1.3.2 모델 평가
1.4 기본 모델과 맞춤형 모델 비교
__1.4.1 모델을 맞춤화하는 방법
1.5 요약
1.6 참고 문헌

▣ 02장: AI 기반 애플리케이션을 위한 LLM
2.1 LLM은 소프트웨어 개발을 어떻게 변화시키는가
2.2 코파일럿 시스템
2.3 LLM을 애플리케이션에 통합하기 위한 AI 오케스트레이터 소개
__2.3.1 AI 오케스트레이터의 주요 구성 요소
__2.3.2 랭체인
__2.3.3 헤이스택
__2.3.4 시맨틱 커널
__2.3.5 프레임워크 선택 방법
2.4 요약
2.5 참고 문헌

▣ 03장: 애플리케이션에 적합한 LLM 선택
3.1 시장에서 가장 유망한 LLM 소개
__3.1.1 독점 모델
__3.1.2 오픈소스 모델
3.2 언어를 넘어선 다양한 AI 모델 탐색
3.3 LLM 선택을 위한 의사결정 프레임워크
__3.3.1 고려 사항
__3.3.2 사례 연구
3.4 요약
3.5 참고 문헌

[2부] LLM 기반 애플리케이션 개발

▣ 04장: 프롬프트 엔지니어링
4.1 프롬프트 엔지니어링이란?
4.2 프롬프트 엔지니어링 기본
__4.2.1 명확한 지침을 제공
__4.2.2 복잡한 과업을 하위 과업으로 분할
__4.2.3 정당화를 요청
__4.2.4 여러 개의 출력을 생성해 가장 적합한 것을 선택
__4.2.5 마지막에 지침을 반복
__4.2.6 구분선을 사용
4.3 고급 프롬프트 엔지니어링
__4.3.1 퓨샷 학습
__4.3.2 사고 연쇄(CoT)
__4.3.3 추론·행동(ReAct)
4.4 요약
4.5 참고 문헌

▣ 05장: 애플리케이션에 LLM 통합하기
5.1 랭체인에 대한 간략한 정보
5.2 랭체인 시작하기
__5.2.1 모델과 프롬프트
__5.2.2 데이터 연결
__5.2.3 기억
__5.2.4 체인
__5.2.5 에이전트
5.3 허깅페이스 허브를 통해 LLM 사용하기
__5.3.1 허깅페이스 사용자 액세스 토큰 만들기
__5.3.2 .env 파일에 시크릿 저장하기
__5.3.3 오픈소스 LLM 사용 시작하기
5.4 요약
5.5 참고 문헌

▣ 06장: 대화형 애플리케이션 구축
6.1 대화형 애플리케이션 시작하기
__6.1.1 단순한 기본형 봇 만들기
__6.1.2 기억 추가하기
__6.1.3 비모수적 지식을 추가하기
__6.1.4 외부 도구 추가하기
6.2 스트림릿으로 프런트엔드 개발하기
6.3 요약
6.4 참고 문헌

▣ 07장: LLM을 사용한 검색 및 추천 엔진
7.1 추천 시스템 개요
7.2 기존 추천 시스템
__7.2.1 K-최근접 이웃
__7.2.2 행렬 분해
__7.2.3 신경망
7.3 LLM이 추천 시스템을 변화시키는 방법
7.4 LLM 기반 추천 시스템 구현
__7.4.1 데이터 전처리
__7.4.2 콜드 스타트 시나리오에서 QA 추천 챗봇 구축하기
__7.4.3 콘텐츠 기반 시스템 구축하기
__7.4.4 스트림릿으로 프런트엔드 개발하기
7.5 요약
7.6 참고 문헌

▣ 08장: 정형 데이터와 함께 LLM 사용하기
8.1 정형 데이터란?
8.2 관계형 데이터베이스 시작하기
__8.2.1 관계형 데이터베이스 개요
__8.2.2 샘플 데이터베이스 소개
__8.2.3 파이썬으로 관계형 DB 다루기
8.3 랭체인으로 DBCopilot 구현하기
__8.3.1 랭체인 에이전트 및 SQL 에이전트
__8.3.2 프롬프트 엔지니어링
__8.3.3 도구 추가하기
8.4 스트림릿으로 프런트엔드 개발하기
8.5 요약
8.6 참고 문헌

▣ 09장: 코드 작업하기
9.1 코드에 적합한 LLM 선택하기
9.2 코드 이해 및 생성
__9.2.1 팔콘 LLM
__9.2.2 코드라마
__9.2.3 스타코더
9.3 알고리즘처럼 작동시키기
9.4 코드 인터프리터 활용하기
9.5 요약
9.6 참고 문헌

▣ 10장: LLM으로 멀티모달 애플리케이션 구축
10.1 왜 멀티모달리티인가?
10.2 랭체인으로 멀티모달리티 에이전트 구축하기
10.3 옵션 1: Azure AI 서비스용 기본 제공 툴킷 사용하기
__10.3.1 AzureCognitiveServicesToolkit 시작하기
10.4 옵션 2: 단일 도구를 하나의 에이전트로 결합하기
__10.4.1 유튜브 도구 및 위스퍼
__10.4.2 DALL-E 및 텍스트 생성
__10.4.3 통합하기
10.5 옵션 3: 시퀀셜 체인을 사용한 하드코딩 접근 방식
10.6 세 가지 옵션 비교
10.7 스트림릿으로 프런트엔드 개발하기
10.8 요약
10.9 참고 문헌

▣ 11장: 대규모 언어 모델 미세 조정
11.1 미세 조정이란?
11.2 미세 조정은 언제 필요한가?
11.3 미세 조정 시작하기
__11.3.1 데이터셋 가져오기
__11.3.2 데이터 토큰화하기
__11.3.3 모델 미세 조정하기
__11.3.4 평가 지표 사용하기
__11.3.5 훈련 및 저장
11.4 요약
11.5 참고 문헌

[03부] LLM의 윤리와 미래

▣ 12장: 책임 있는 AI
12.1 책임 있는 AI란 무엇이며 왜 필요한가?
12.2 책임 있는 AI 아키텍처
__12.2.1 모델 수준
__12.2.2 메타프롬프트 수준
__12.2.3 사용자 인터페이스 수준
12.3 책임 있는 AI 관련 규정
12.4 요약
12.5 참고 문헌

▣ 13장: 새로운 트렌드와 혁신
13.1 언어 모델 및 생성형 AI의 최신 동향
__13.1.1 GPT-4V(ision)
__13.1.2 DALL-E 3
__13.1.3 오토젠
__13.1.4 소규모 언어 모델
13.2 생성형 AI를 도입하는 기업들
__13.2.1 코카콜라
__13.2.2 노션
__13.2.3 말벡
__13.2.4 마이크로소프트
13.3 요약
13.4 참고 문헌

작가정보

저자(글) 발렌티나 알토

(Valentina Alto)
열정적인 AI 연구자이자 과학기술 작가이자 달리기 애호가다. 데이터과학 석사 과정을 마친 후 2020년에 마이크로소프트에 입사해 AI 전문가로 일하고 있다. 학업을 시작할 때부터 머신러닝과 AI에 열정을 쏟은 발렌티나는 기술 블로그에 수백 편의 글을 올리며 전문 지식을 연마했으며, 팩트 출판사를 통해 첫 번째 저서인 《Modern Generative AI with ChatGPT and OpenAI Models》를 출간했다. 지금은 여러 대기업과 협력해 AI를 각 회사의 프로세스에 통합하고 대규모 파운데이션 모델을 활용해 혁신적인 솔루션을 만드는 데 힘쓰고 있다. 여가 시간에는 이탈리아의 아름다운 산에서 하이킹을 하거나 달리기, 여행, 그리고 커피 한 잔과 함께 좋은 책 읽기를 즐긴다.

번역 최용

한국방송통신대학교에서 컴퓨터과학을 전공하고 IT 시스템 운영을 자동화하는 소프트웨어의 기술 지원을 주로 했다. 프로그래밍 책을 쓰고 번역하다가 IT 전문 출판사의 편집자가 됐다. 데이터 분석과 인공지능 책을 주로 담당하는 한편, 파이썬으로 업무 자동화 프로그램을 개발해 활용한다. 누구나 챗GPT를 활용해 자신의 이야기를 책으로 쓸 수 있게 도우려 개발한 ‘Book Creator Guide’ GPT가 OpenAI의 추천을 받아 글쓰기 부문 상위권에 올랐다. 저자·번역자로서 《챗GPT와 랭체인을 활용한 LLM 기반 AI 앱 개발》(위키북스, 2024), 《Hello IT 파이썬을 제대로 활용해보려고 해》(패스트캠퍼스, 2022) 등을 냈고, 온라인 책 공유 플랫폼인 위키독스에 ‘전뇌해커’라는 필명으로 글을 쓴다. 어릴 적 꿈을 떠올리고 서울사이버대학교 드론·로봇융합학과에 입학해 공부하고 있다.