에이전틱 AI 시스템 구축하기

추론, 계획, 적응 가능한 지능형 자율 에이전트 설계 가이드

안자나바 비스와스 , 릭 탈루크다르 지음 | 김모세 옮김

제이펍 2025년 12월 11일 출간 국내도서 : 2025년 09월 04일 출간

작품소개

책소개

이 책은 생성형 AI를 활용해 계획·추론·행동하는 자율 AI 에이전트를 설계하고 배포하는 방법을 다룬다. 예시 프로젝트로 CrewAI, AutoGen, LangGraph를 활용한 여행 계획 에이전트를 만들어보면서 메타 추론, 자기 설명, 전략적 계획, 다중 에이전트 조정 등의 기술을 익히고, 조정자(여행 계획 작업 총괄)·작업자(항공권 예약 및 여행 데이터 분석)·위임자(작업 우선순위 지정 및 자원 할당) 구조와 같은 확장 가능한 설계 기법을 배울 수 있다. 단순 작업 수행을 넘어 인간의 개입을 최소화하면서 스스로 판단하고 행동하는 차세대 AI 에이전트를 구축해보자.

목차

지은이·옮긴이 소개 x
기술 감수자 소개 xi
옮긴이 머리말 xiii
추천사 I xiv
추천사 II xvi
감사의 글 xviii
이 책에 대하여 xx

PART I 생성형 AI와 에이전틱 시스템 기초
CHAPTER 1 생성형 AI 기본 3
1.1 생성형 AI 소개 4
1.2 생성형 AI 모델의 유형 5
__1.2.1 VAE 5
__1.2.2 GAN 7
__1.2.3 자기회귀 모델과 트랜스포머 아키텍처 8
__1.2.4 LLM 기반 AI 에이전트 12
1.3 생성형 AI의 응용 16
1.4 생성형 AI의 과제와 한계 19
__1.4.1 데이터 품질과 편향 19
__1.4.2 데이터 프라이버시 20
__1.4.3 계산 자원 21
__1.4.4 윤리적, 사회적 함의 21
__1.4.5 일반화와 창의성 22
요약 22
질문 23
답변 23
더 읽을 거리 24

CHAPTER 2 에이전틱 시스템의 원리 25
기술 요구사항 26
2.1 자기 관리, 주체성, 자율성 이해하기 26
__2.1.1 자기 관리 27
__2.1.2 주체성 28
__2.1.3 자율성 28
__2.1.4 에이전트의 주체성과 자율성에 관한 예시 30
2.2 지능형 에이전트와 그 특성 검토하기 33
2.3 에이전틱 시스템 아키텍처 탐색 34
__2.3.1 계획 기반형 아키텍처 35
__2.3.2 반응형 아키텍처 36
__2.3.3 하이브리드 아키텍처 38
2.4 다중 에이전트 시스템 이해하기 40
__2.4.1 MAS의 정의와 특징 41
__2.4.2 MAS의 상호작용 메커니즘 42
요약 47
질문 48
답변 48

CHAPTER 3 지능형 에이전트의 필수 구성 요소 50
기술 요구사항 51
3.1 지능형 에이전트에서의 지식 표현 51
__3.1.1 의미망 51
__3.1.2 프레임 53
__3.1.3 논리 기반 표현 55
3.2 지능형 에이전트의 추론 56
__3.2.1 연역 추론 57
__3.2.2 귀납 추론 58
__3.2.3 가설 추론 59
3.3 적응형 에이전트를 위한 학습 메커니즘 61
3.4 에이전트 시스템에서의 의사결정과 계획 63
__3.4.1 유틸리티 함수 63
__3.4.2 계획 알고리즘 65
3.5 생성형 AI를 활용한 에이전트 능력 향상 69
__3.5.1 에이전틱 AI 구축 시작하기 70
요약 73
질문 73
답변 73

PART II 생성형 AI 기반 에이전트 설계 및 구현
CHAPTER 4 에이전트의 반성과 자기 성찰 77
기술 요구사항 78
4.1 에이전트에서 반성의 중요성 78
__4.1.1 향상된 의사결정 79
__4.1.2 적응 79
__4.1.3 윤리적 고려 80
__4.1.4 인간-컴퓨터 상호작용 81
__4.1.5 지능형 에이전트의 자기 성찰 83
4.2 반성 기능 구현하기 84
__4.2.1 전통적인 추론 84
__4.2.2 메타 추론 84
__4.2.3 자기 설명 95
__4.2.4 자기 모델링 99
4.3 사용 사례와 예시 102
__4.3.1 고객 서비스 챗봇 102
__4.3.2 개인 맞춤 마케팅 에이전트 103
__4.3.3 금융 트레이딩 시스템 104
__4.3.4 예측 에이전트 105
__4.3.5 전자상거래에서의 가격 전략 107
요약 108
질문 109
답변 109

CHAPTER 5 도구 사용 및 계획 수립 기능 활성화 110
기술 요구사항 111
5.1 에이전트에서의 도구 사용 개념 이해 111
__5.1.1 도구 호출과 함수 호출 112
__5.1.2 에이전트를 위한 도구 정의 114
__5.1.3 도구의 유형 116
__5.1.4 에이전틱 시스템에서의 도구의 중요성 120
5.2 에이전트를 위한 계획 알고리즘 121
__5.2.1 낮은 실용성을 가진 계획 알고리즘 121
__5.2.2 중간 실용성을 가진 계획 알고리즘 122
__5.2.3 가장 높은 실용성을 가진 계획 알고리즘 124
5.3 도구 사용과 계획의 통합 131
__5.3.1 도구에 관한 추론 131
__5.3.2 도구 사용을 위한 계획 수립 133
5.4 실용적 구현 탐색 134
__5.4.1 CrewAI 예제 134
__5.4.2 AutoGen 예제 136
__5.4.3 LangGraph 예시 138
요약 140
질문 140
답변 141

CHAPTER 6 조정자, 작업자, 위임자 접근 방식 살펴보기 142
기술 요구사항
6.1 CWD 모델 이해 143
__6.1.1 CWD 모델의 핵심 원칙 144
__6.1.2 지능형 여행 에이전트를 위한 CWD 모델 145
6.2 역할 할당을 통한 에이전트 설계 148
__6.2.1 각 에이전트의 역할과 책임 151
6.3 에이전트 간 커뮤니케이션 및 협업 158
__6.3.1 커뮤니케이션 158
__6.3.2 조정 메커니즘 159
__6.3.3 협상 및 갈등 해결 159
__6.3.4 지식 공유 160
6.4 생성형 AI 시스템에서 CWD 접근 방식 구현 161
__6.4.1 시스템 프롬프트와 에이전트 행동 161
__6.4.2 지시 형식 지정 162
__6.4.3 상호작용 패턴 164
요약 164
질문 165
답변 165

CHAPTER 7 효과적인 에이전틱 시스템 설계 기법 167
기술 요구사항 168
7.1 에이전트를 위한 집중 시스템 프롬프트와 지침 168
__7.1.1 목표 정의 168
__7.1.2 작업 명세 170
__7.1.3 콘텍스트 인식 172
7.2 상태 공간 및 환경 모델링 173
__7.2.1 상태 공간 표현 173
__7.2.2 환경 모델링 175
__7.2.3 통합 및 상호작용 패턴 177
__7.2.4 모니터링과 적응 179
7.3 에이전트 메모리 아키텍처 및 콘텍스트 관리 180
__7.3.1 단기 메모리(작업 메모리) 180
__7.3.2 장기 메모리(지식 베이스) 181
__7.3.3 일화적 메모리(상호작용 기록) 183
__7.3.4 콘텍스트 관리 184
__7.3.5 의사결정과의 통합 185
7.4 순차 및 병렬 처리의 에이전트 워크플로 186
__7.4.1 순차 처리 186
__7.4.2 병렬 처리 187
__7.4.3 워크플로 최적화 188
요약 190
질문 191
답변 191

PART III 신뢰, 안전성, 윤리, 그리고 응용
CHAPTER 8 생성형 AI 시스템에서의 신뢰 구축 195
기술 요구사항 196
8.1 AI에서 신뢰의 중요성 196
8.2 신뢰를 구축하기 위한 기술 197
__8.2.1 투명성과 설명 가능성 197
__8.2.2 불확실성과 편향 처리 202
__8.2.3 효과적인 출력 커뮤니케이션 203
__8.2.4 사용자 제어와 동의 204
__8.2.5 윤리적 개발과 책임 205
8.3 투명성과 설명 가능성 구현하기 207
8.4 불확실성과 편향 처리 208
요약 209
질문 210
답변 210

CHAPTER 9 안전 및 윤리 고려사항 관리 212
9.1 잠재적 위험 및 도전 과제 이해하기 213
__9.1.1 적대적 공격 213
__9.1.2 편향과 차별 215
__9.1.3 허위 정보와 환각 216
__9.1.4 데이터 프라이버시 침해 217
__9.1.5 지적 재산권 위험 219
9.2 안전하고 책임 있는 AI 보장 220
9.3 윤리 지침 및 프레임워크 탐색 225
__9.3.1 인간 중심 설계 225
__9.3.2 책임과 책임 소재 225
__9.3.3 프라이버시 및 데이터 보호 225
__9.3.4 다양한 이해관계자의 참여 226
9.4 프라이버시 및 보안 문제 대응 226
요약 228
질문 229
답변 229

CHAPTER 10 일반적인 활용 사례와 응용 분야 231
10.1 크리에이티브 및 예술 분야의 응용 232
__10.1.1 크리에이티브 및 예술 에이전트의 발전 232
__10.1.2 실제 적용 사례 233
10.2 자연어 처리 및 대화형 에이전트 236
__10.2.1 언어 에이전트의 발전 236
__10.2.2 실제 응용 사례 236
10.3 로보틱스와 자율 시스템 239
__10.3.1 로봇 에이전트의 발전 239
__10.3.2 실제 응용 사례 240
10.4 의사결정 지원 및 최적화 243
__10.4.1 의사결정 지원 에이전트의 발전 243
__10.4.2 실제 응용 사례 243
요약 247
질문 248
답변 248

CHAPTER 11 결론과 미래 전망 250
11.1 핵심 개념 요약 251
11.2 최신 동향과 연구 방향 252
__11.2.1 멀티모달 인텔리전스 – 다양한 입력의 통합 252
__11.2.2 고급 언어 이해 253
__11.2.3 경험적 학습 – 강화 학습의 혁신 253
__11.2.4 산업 전반에 걸친 실질적 영향 254
11.3 인공 일반 지능 254
__11.3.1 AGI는 무엇이 다른가 254
__11.3.2 큰 도전 255
__11.3.3 학습 방법 배우기 255
__11.3.4 현실 세계 이해 255
11.4 도전과 기회 256
요약 258

찾아보기 261

책 속으로

1장에서 설명한 여행 예약 어시스턴트 예시를 다시 떠올려보자. 이 어시스턴트는 항공권 예약뿐만 아니라 호텔 예약도 담당할 수 있다. 이때, 이 시스템은 다음과 같은 방식으로 주체성을 발휘하게 될 것이다. 예를 들어 두 도시 간 항공편의 가용성, 항공편 가격, 사용자가 입력한 좌석 등급 등의 제약 조건을 분석하고 그 조건에 부합하는 항공편과 호텔을 최적화된 방식으로 탐색하는 의사결정을 함으로써 여행 전체 비용을 최소화하는 결과를 만든다. 즉 시스템은 자신이 내린 결정의 결과에 대해 책임지며, 이는 고객의 여행 계획과 전체 비용에 직접적인 영향을 미친다. (28쪽)

또한 MAS의 분산적 특성 덕분에 의사결정도 분산적으로 이루어질 수 있다. 각 에이전트는 자신이 가진 국지적 지식과 제약 조건을 기반으로 독립적인 의사결정을 하면서도, 다른 에이전트들과 협력하고 조정해 전체적인 최적화를 도모할 수 있다. 여행 예약 어시스턴트 예시에서 MAS의 협상 메커니즘은 다양한 참여 주체 간의 효율적인 조정을 가능하게 할 뿐만 아니라 수요/공급의 변화, 가격 변동, 기타 운영 요인 등에 대한 유연하고 적응력 있는 대응을 제공함으로써 고객 요구에 부합하는 보다 탄력적이고 반응성 높은 시스템을 구현할 수 있다. (45쪽)

자기 성찰은 에이전트가 모호함과 불확실성에 대처할 수 있는 능력을 강화한다. 과거 경험을 되돌아보며, 에이전트는 복잡하고 동적인 환경에 더 잘 적응할 수 있는 강건한 의사결정 전략을 개발할 수 있다. 따라서 자기 성찰은 변화하는 데이터나 환경과 상호작용하는 시스템에서 특히 중요하다. 이러한 시스템에서는 시간이 지나도 관련성과 효율성을 유지하는 것이 관건이기 때문이다. 자기 성찰은 지능형 에이전트를 단순한 반응적 시스템에서 능동적 학습자로 변화시킨다. 에이전트는 자신의 사고 과정을 이해하고, 경험을 통해 학습함으로써 행동을 지속적으로 정제할 수 있으며, 다양한 상황에서 보다 지능적이고 적응력 있는 성능을 발휘할 수 있다. (83쪽)

메타 추론은 여행 에이전트가 자원 할당을 최적화하는 데에도 도움이 될 수 있다. 예를 들어 복잡하거나 고위험의 여행 계획 시나리오(목적지가 여러 곳인 가족 여행이나 대규모 단체 여행을 기획하는 등)에는 에이전트가 더 많은 계산 자원을 할당해 좀 더 깊은 추론과 분석을 수행할 수 있다. 이것은 더 넓은 범위의 옵션을 고려하거나, 다양한 시나리오를 시뮬레이션 하거나, 더욱 정교한 알고리즘을 활용해 최적의 추천을 생성하는 것 등을 포함할 수 있다. 반면, 단순한 주말 여행 예약과 같은 일상적인 요청에는 간소화된 추론 프로세스나 미리 정의된 규칙을 사용할 수 있고, 이로써 계산 자원을 더 복잡한 작업을 위해 아껴둘 수 있다. (85쪽)

역할 기반 모델링의 핵심 원칙들(내부 알고리즘 로직과 상호작용 로직의 분리, 동적 역할 할당, 모듈화된 시스템 구성)은 협업이 요구되는 LLM 에이전트들을 설계할 때 특히 유효하며, 에이전트 사이의 명확한 책임 구분과 상호작용 패턴을 유지할 수 있게 돕는다. 에이전트가 가진 능력과 시스템 요구 사항에 따라 구체적인 역할을 할당함으로써 개발자는 관심사의 분리를 기반으로 하는 모듈화되고 재사용할 수 있는 설계를 구현할 수 있다. 예를 들어 지능형 여행 에이전트 시스템에서는 각 에이전트에게 조정자, 작업자, 위임자 등의 역할을 부여할 수 있다. (222쪽)

여행 계획 조정자 에이전트는 작업자 에이전트들의 활동을 전체 여행 계획 목표에 맞게 정렬하기 위한 조정 메커니즘을 구현할 수 있다. 예를 들어 고객 선호도 또는 여행 날짜에 기반한 작업 우선 순위 메커니즘을 채용할 수 있다. 고객이 숙박 예약 일정 탐색을 최우선으로 요청하면, 조정자 에이전트는 위임자 에이전트에게 호텔 예약 작업자 에이전트의 우선순위를 다른 작업자 에이전트의 그것보다 높이게 지시할 수 있다. 그리고 조정자 에이전트는 각 작업자 에이전트의 진행 상황을 모니터링하여 자원을 재할당하거나 우선순위를 조정함으로써 작업이 제시간에 완료되도록 할 수 있다. (255~256쪽)

출판사 서평

프롬프트 이후, 이제는 에이전트의 시대프롬프트 잘 쓰는 법만으로는 더 이상 경쟁력이 되지 않습니다. 이제는 스스로 목표를 세우고, 계획하고, 필요하면 반성하며, 환경에 맞춰 적응하는 에이전트가 실무의 성패를 가릅니다. 《알아서 잘하는 에이전틱 AI 시스템 구축하기》는 그 전환점을 정확히 짚어, 조정자·작업자·위임자(CWD) 모델로 복잡한 시스템을 안정적으로 굴리는 방법을 ‘개념→설계→구현→운영’의 흐름으로 보여줍니다.
이 책의 강점은 명확합니다. 이론 소개에 머물지 않고 여행 계획 에이전트를 끝까지 만들어보도록 합니다. 사용자 요청에 따라 전체 여행 계획 프로세스를 관리하고 작업 에이전트 사이의 효과적인 협업을 촉진하는 조정자 에이전트, 항공권 및 호텔 예약, 활동 계획, 교통편 등에 특화된 작업자 에이전트, 전문성과 작업량에 따라 적절한 작업을 작업자 에이전트들에게 할당하는 위임자 에이전트를 통해 조정자 · 작업자 · 위임자(CWD) 모델을 이해할 수 있습니다.
구현 과정에서 독자는 메타 추론, 자기 설명, 전략적 계획, 다중 에이전트 조정 같은 핵심 기술을 자연스럽게 체득하며, '이렇게 설계한 이유'를 납득할 수 있도록 신뢰·투명성·안전성의 원칙까지 함께 익힙니다. 결과적으로 독자는 ‘작동하는’ 에이전트를 구현하는 법 그리고 운영 중 스스로 성능을 끌어올리는 자기 향상 루프를 설계하는 법을 배우게 됩니다.
많은 책이 ‘에이전트가 무엇인지’를 설명합니다. 이 책은 한 걸음 더 나아가 ‘에이전트를 어떻게 운영 가능한 시스템으로 만드는지’를 보여줍니다. 이미 생성형 AI를 써본 분이라면, 이제는 최소한의 인간 개입으로 비즈니스 목표를 달성하는 자율 에이전트를 직접 구축해보세요. 현장의 언어로 쓰인 이 책이, 그 시작과 완성을 함께합니다.

주요 내용생성형 AI와 에이전틱 시스템의 핵심 원리 살펴보기동적 환경에서 에이전트가 작동 · 추론 · 적응하는 방식 이해하기에이전트가 자기 행동을 분석 · 개선하도록 구현하기외부 도구를 활용해 복잡한 과제를 계획·수행하는 시스템 설계하기AI 시스템의 신뢰를 구축하기 위한 핵심 기법 살펴보기다양한 실무 사례를 통해 산업별 AI 에이전트 구현 방법 탐색하기
대상 독자개발자·ML 엔지니어: LLM 실험을 넘어 서비스 등급의 에이전트를 설계·배포하고 싶은 분PM·기술 리더: 다중 에이전트 워크플로를 조직 프로세스에 통합하려는 분스타트업·현업 팀: 작은 리소스로 대규모 자동화를 달성해야 하는 분
이 책에서 바로 써먹을 수 있는 것들역할 기반 아키텍처 청사진: CWD 모델 템플릿과 상호작용 패턴프레임워크별 레시피: CrewAI·AutoGen·LangGraph의 선택 기준과 통합 가이드신뢰·안전성 체크리스트: 설명 가능성, 편향·불확실성 처리, 거버넌스 설계비용·운영 최적화 팁: 캐싱, 로깅, 오픈소스 모델 대체 전략

인물정보

저자(글) 안자나바 비스와스

다수의 수상 경력을 보유한 시니어 AI 스페셜리스트 설루션 아키텍트로서 17년 이상의 산업 경험을 갖고 있다. 머신러닝, 생성형 AI, 자연어 처리, 딥러닝, 데이터 분석, 클라우드 아키텍처 분야 등에 능통하며, 대기업들과 협력해 클라우드에서 고도화된 AI 시스템을 구축하고 확장하는 업무도 하고 있다.

저자(글) 릭 탈루크다르

아마존에서 생성형 AI 분야를 선도하는 비전 있는 기술 리더다. AI, 클라우드 컴퓨팅, 제품 리더십과 관련해 20년 이상의 글로벌 경험을 보유하고 있다. AI 기반의 비즈니스 전환을 선도해온 개척자로서, 수백만 명에게 영향을 미치는 대규모 현대화 이니셔티브를 이끌며 엔터프라이즈 성장을 견인해왔다. 수상 경력을 가진 AI/ML 기술의 제품화를 주도했으며, 이 기술은 현재 포춘 500대 기업의 실제 환경에 배포되어 실질적인 성과를 창출하고 있다.

번역 김모세

소프트웨어 엔지니어, 소프트웨어 품질 엔지니어, 애자일 코치 등 다양한 부문에서 소프트웨어 개발에 참여했다. 재미있는 일, 나와 조직이 성장하고 성과를 내도록 돕는 일에 보람을 느껴 2019년부터 번역을 시작했으며, 다수의 영어와 일본어 IT 기술서 및 실용서를 번역했다.