최고의 프롬프트 엔지니어링 강의

김진중 지음

리코멘드 2024년 07월 22일 출간 국내도서 : 2024년 06월 10일 출간

작품소개

책소개

프롬프트 엔지니어링이라면 흔히 ‘AI에게 질문하는 방법’이라고 생각하는 경우가 많지만, 정확히 말하면 ‘AI로부터 높은 수준의 결과물을 얻기 위한 양질의 프롬프트를 구성하는 작업’이라고 할 수 있다. 우리가 작성하는 프롬프트가 단순히 검색 포털에 질문을 입력하는 수준에서 벗어나려면 LLM 작동 원리를 이해하여 체계적으로 프롬프트를 구성하는 작업이 반드시 필요하다.
이 책은 프롬프트 엔지니어링의 방대한 내용을 프로그래밍 지식이 없는 사람도 이해하고 접근하기 쉽도록 컴팩트하고 짜임새 있게 전달한다. 인공지능 시대를 살아가는 데 꼭 필요한 상식과도 같은 프롬프트 엔지니어링을 기초 개념부터 실습까지 누구나 체계적으로 학습할 수 있도록 했다.
패스트캠퍼스의 인기 강의를 LLM 입문자도 학습하기 쉬운 형태로 재구성하였으며, 유튜브/블로그 제목 다듬기, 영어 단어장 만들기, 채용 인터뷰 질문 생성하기 등 실무에서 유용하게 사용할 수 있는 유형 위주로 실습 내용을 엄선하였다.

목차

PART 01 LLM 그리고 새로운 시대의 개막

CHAPTER 01 머신러닝과 딥러닝의 개념
규칙 기반 AI와 머신러닝
전통적인 머신러닝과 딥러닝의 차이점

CHAPTER 02 LLM, 완전히 새로운 시대의 개막
LLM의 빅뱅
LLM의 작동 원리
LLM 성능을 향상시킨 주요 기술
LLM 응용 기술

CHAPTER 03 LLM, 특이점의 시작
GPT-4의 뛰어난 성능
소프트웨어 개발 방식의 진화
새로운 기회 찾기
새로운 기회의 시작


PART 02 프롬프트 엔지니어링 원 포인트 레슨

CHAPTER 04 프롬프트 엔지니어링이란
AI 시대 새로운 코딩, 프롬프트 엔지니어링
프롬프트 엔지니어링의 가장 대표적인 다섯 가지 방법
기본적인 프롬프트 구성
프롬프트 엔지니어링 원 포인트 레슨

CHAPTER 05 컨텍스트를 가져오는 기술 - 벡터 서치
LLM의 숨은 영웅, 임베딩
벡터 서치와 시맨틱 서치
벡터 서치의 명암


PART 03 프롬프트 엔지니어링 기초

CHAPTER 06 프롬프트를 디자인하는 방법
프롬프트 디자인의 세 가지 핵심 요소
프롬프트 디자인 프레임워크
프롬프트 디자인 프레임워크 예제
프롬프팅 테크닉 TOP 8
프롬프팅 확장 테크닉: 예시를 제공하고 생각하게 만들기
프롬프팅 확장 테크닉: 전략을 짜고 스스로 평가하기
포맷팅
프롬프트 체이닝
좋은 프롬프트 만들기

CHAPTER 07 LLM 구성 요소 및 생성 조건
토큰
컨텍스트 윈도우
주요 생성 옵션

CHAPTER 08 LLM의 대표적인 자연어 처리 기술
언어 번역
스타일 변경
편집 및 재작성
요약
개체명 인식
감정 인식
문서 분류
주제 모델링
유사성 평가
질문 답변


PART 04 프롬프트 엔지니어링 연습

CHAPTER 09 실습 준비하기
OpenAI Playground 환경 설정하기
OpenAI Playground 화면 살펴보기
ChatGPT 이용하기

CHAPTER 10 유튜브/블로그 제목 다듬기
프롬프트 작성하기

CHAPTER 11 영어 단어장 만들기
프롬프트 작성하기

CHAPTER 12 채용 인터뷰 질문 생성하기
프롬프트 작성하기

CHAPTER 13 실전 프롬프트 예시


PART 05 프롬프트 엔지니어링 실무

CHAPTER 14 LLM 역량을 200% 끌어올리는 방법
모델을 선택할 때 고려해야 할 것들
프롬프트 작성 도움받기
환각 줄이기
외부 지식 주입하기
외부 도구 사용하기: 함수 호출

CHAPTER 15 프롬프트 평가와 테스팅
프롬프트 요구 사항 명세
프롬프트 버전 관리
생성 결과 평가하기
평가 자동화

CHAPTER 16 LLM 보안
데이터 보안
프롬프트 보안
프롬프트 인젝션
실제 해킹 과정
프롬프트 인젝션 방어 방법 세 가지

CHAPTER 17 LLM의 미래, Agent
Autonomous Agent
Generative Agents
AGI의 구현

EPILOGUE
찾아보기

책 속으로

“ 프롬프트 엔지니어링은 더 많은 사람이 프로그래머가 될 수 있는 세상이 온 것을 의미합니다.”

시중에 나온 ChatGPT 사용법은 대부분 프롬프트 엔지니어링이 아닌 블라인드 프롬프팅 혹은 프롬프트 라이팅이라고 부르는 것들입니다. ChatGPT의 답변을 평가하는 설계가 없으니 결과의 일관성과 정확성을 보장할 수 없기 때문입니다. 이 책은 어쩌다 한 번, 우연히 그럴 듯한 결과를 내는 것이 아니라 실험론적 방법론에 기반하여 의도한 대로 정확하고 일관된 결과를 얻는 방법을 설명합니다. 다양한 프롬프트를 시도하고, 결과를 분석하며, 지속적으로 개선해 나가는 과정을 통해 AI를 의도한 대로 제어하고 사용 경험을 극대화하는 것을 목표로 합니다.
-----
이 책은 프롬프트 템플릿을 ‘사용’하는 방법이 아닌 ‘작성’하는 방법, 그리고 프롬프트로 프로그램을 처음부터 구성하는 방법을 알려 줍니다. 물론 코딩을 할 수 있다면 라이브러리를 활용해 LLM 애플리케이션을 개발하는 것이 훨씬 간편할 수 있습니다. 그러나 이렇게 기초부터 배우는 이유는 외부에서 가져온 라이브러리나 프롬프트 템플릿을 사용하면 확장성이 낮고 문제가 있을 때 디버깅(문제를 특정하고 해결)하는 게 굉장히 어렵습니다. 현재 널리 알려져 있는 라이브러리도 계속 발전할 것이고 새로운 기술도 끊임없이 등장할 것입니다. 따라서 스스로 프롬프트를 만들고 구성하는 능력을 기르는 것은 AI를 단순 활용하는 것 이상의 큰 결과를 가져다 줄 것입니다.
-----
LLM을 이용한 AI 도입 이후 CS 상담원에게 어떤 변화가 발생했는지 조사해 봤더니 시간당 상담 해결 건수가 13.8%나 증가했다고 합니다. 이는 상담 한 건을 처리하는 속도가 빨라진 동시에 하루 진행 상담 건수도 증가했다는 뜻입니다. 또한 성공적으로 해결한 상담 비율이 높아진 것도 변화에 기여한 주요 요인입니다. 하지만 여기서 중요한 것은 해결 건수 증가가 아닙니다. CS 상담원이 높은 수준의 상담 능력을 갖추는 데는 보통 6개월 정도의 교육이 필요한데, AI의 도움을 받으면 무려 2개월 만에 같은 수준의 능력을 갖추게 된다는 것이 핵심입니다. 이로 인해 고객 만족도뿐만 아니라 상담원 만족도도 같이 향상되었고, 업무 프로세스뿐만 아니라 상담원의 재직 기간도 크게 늘어나는 등 기업 전반에 큰 변화가 일어났습니다.
-----
이러한 대전환의 시대 속에서 경영진 레벨은 기회와 위기감을 동시에 가질 수밖에 없습니다. 며칠 전까지만 해도 수천억이었던 기술이 갑자기 극도로 저렴해져서 누구나 쉽게 도입할 수 있게 되었으니까요. 구글이나 마이크로소프트, 한국에서는 네이버 정도만 만들 수 있다고 생각했던 고도의 AI 애플리케이션을 누구나 만들 수 있게 된 것입니다. 이 속도를 따라잡지 못하면 그만큼 뒤쳐질 수 있기 때문에 경영진 레벨에서는 불안함을 느낄 수밖에 없습니다. 이렇게 시대는 흘러가고 있다지만 실무 레벨에서는 감이 잘 오지 않기도 합니다. 누구나 쉽게 따라 할 수 있는데 굳이 왜 해야 하냐는 의문인 것이죠. 그러나 “AI is not going to take your job, The person who uses AI will take your job”이라는 말이 있습니다. 누구나 쉽게 따라할 수 있기 때문에 지금 당장 해야 하는 것이 맞습니다. 여기에는 기존에 사용하던 방법을 버리는 사고방식의 전환이 필요합니다.

출판사 서평

★ 모든 LLM 활용의 핵심은 제대로 된 프롬프트 엔지니어링에 달려 있다!
현재 나와 있는 수많은 프롬프트 엔지니어링 관련 강의는 ChatGPT를 활용법을 가르치거나 프롬프트 작성 템플릿을 제공하는 경우가 대부분이다. 그러나 ChatGPT는 단지 가장 먼저 대중화된 LLM 제품일 뿐, 앞으로 수많은 모델들이 계속해서 출시될 예정이므로 다가올 미래를 대비하는 우리에게 진정 필요한 것은 ChatGPT 사용법이 아닌 ‘LLM에게 제대로 일을 시키는 법’이다. 그리고 이를 이해하는 것이 바로 진정한 의미의 프롬프트 엔지니어링이다.

★ 단순 ChatGPT 사용법이 아닌 ‘진짜’ LLM 역량을 키우기 위한 기초 - 연습 - 실무 과정
이 책은 먼저 AI와 머신러닝의 기본 개념부터 그로 인해 탄생한 LLM의 발전 과정을 대략적으로 짚어 본다. 이후 프롬프트 엔지니어링 원 포인트 레슨을 통해 세상을 깜짝 놀라게 한 ChatGPT가 어떻게 사람같은 답변이 가능했는지 그 원리를 살펴본다. 이후 실제 예제를 통해 프롬프트를 디자인하는 구체적인 방법 및 프롬프트 확장 테크닉, 좋은 프롬프트를 작성하는 비결을 하나씩 알아본다. 그리고 이를 바탕으로 OpenAI Playground를 활용해 다음 내용을 실습한다.

V 유튜브/블로그 제목 다듬기
V 영어 단어장 만들기
V 채용 인터뷰 질문 생성하기

원리만 이해하면 이와 같은 작업을 오랜 시간을 들이지 않고도 가뿐하게 LLM에게 맡길 수 있다. 마지막으로 프롬프트 엔지니어링으로 LLM 역량을 200% 키우기 위한 여러 가지 조언도 더한다.

★ 앞으로는 AI를 잘 알아야 더 가치 있는 일을 잘할 수 있는 시대
혹자는 앞으로 AI가 프롬프트도 만들어 줄 텐데 굳이 프롬프트 엔지니어링을 따로 배워야 하느냐고 묻는다. 그러나 이는 프롬프트 엔지니어링을 잘못 이해하고 있기 때문에 나오는 발언이다. 이 책은 누군가 미리 만들어 둔 프롬프트를 가져다 쓰는 법을 알려주지 않는다. 대신 항상 의도한 결과를 출력하는 프롬프트 템플릿 작성 방법을 기초 원리부터 가르친다. 늘 원하는 최고의 답변을 출력하는 프롬프트를 작성할 줄 알면 분야를 막론하고 업무 생산성에 놀랄 만한 혁신이 일어날 것이다.

★ 이 책이 필요한 독자
ChatGPT를 비롯한 각종 LLM 서비스를 제대로 이해하고 실제 업무에 활용하고 싶은 사람실제 상용화 가능한 수준의 LLM 서비스를 기획하거나 개발하려는 사람프롬프트 엔지니어링을 기초부터 이해하여 변화될 세상에 발빠르게 대응하고 싶은 사람

★ 추천사
노코드(No code) 또는 로우코드(Low code) 시대에도 프롬프트 엔지니어링 역량만 갖춘다면 AI 혁명의 흐름에 올라타 그 혜택을 누릴 수 있습니다. 이는 생성형 AI 개발자뿐 아니라 일반인에게도 해당되는 이야기입니다.
이러한 맥락에서 체계적으로 정리된 프롬프트 엔지니어링 지침서는 누구에게나 필독서라고 할 수 있습니다. 특히 AI의 기본 개념부터 LLM에 대한 전반적인 지식, 프롬프트 엔지니어링의 기초 및 실습, 실무 팁까지 아우르는 이 책은 AI 시대를 살아가는 모두에게 강력히 추천하는 바입니다.
Hanna Kroukamp(양파)_ Microsoft Copilot AI team 시니어 데이터 사이언티스트

이 책의 진짜 가치는 단순히 프롬프트 템플릿을 ‘사용’하는 방법을 제시하는 것이 아니라 ‘작성’하는 방법을 안내한다는 점입니다. 프롬프트를 통해 LLM을 제어하고, 원하는 결과를 얻어내는 과정을 상세하게 설명하며, 외부 라이브러리나 프롬프트 템플릿에 의존하지 않고 스스로 프롬프트를 설계하고 구현하는 능력을 강조합니다. 이는 AI를 단순히 활용하는 것을 넘어, AI 기술을 주도적으로 이끌어 나갈 수 있는 역량을 키워 줄 것입니다.
정지훈_ 『거의 모든 IT의 역사』 저자 및 DGIST 겸임교수

이 책은 프롬프트 엔지니어링을 처음 접하는 사람들도 쉽게 이해할 수 있도록 구성되어 있습니다. 함께 소개된 예제들은 일상이나 업무 속에서 쉽게 활용하면서 효율성을 향상시킬 수 있을 것입니다. LLM에 익숙한 사람이든, 처음 접하는 사람이든 상관없이 이 책을 강력히 추천합니다. 그동안 어렵게만 느껴졌던 LLM의 세계를 더 깊이 있게 이해할 수 있을 것입니다.
박세영_ Meta Senior Staff Research Scientist

이 책은 인공지능의 기본 개념과 원리를 친근하고 이해하기 쉬운 언어로 풀어 설명합니다. 초거대 언어 모델과 프롬프트 엔지니어링이라는, 듣기만 해도 복잡해 보이는 주제도 저자의 명쾌한 설명을 통하면 쉽게 이해할 수 있습니다. 인공지능이 우리의 삶과 일터에 어떤 혁신적인 변화를 가져올 수 있는지를 탐구하면 여러분은 인공지능을 단순히 사용하는 사람이 아니라 그 변화를 이끌어가는 주체가 될 수 있습니다.
이 책에서 배울 프롬프트 엔지니어링은 단순한 지식의 파편이 아니라 앞으로도 계속해서 역량을 발휘할 근본 지식이 될 것입니다. 인공지능 시대를 살아가는 우리에게 이 책은 단순한 지침서가 아니라 미래를 향한 로드맵이 되어 줄 것입니다.
이활석_ 업스테이지 공동창업자 및 CTO

작가정보

저자(글) 김진중

코딩 중독자. 코딩이 취미이자 특기이자 직업으로, 20년 넘게 매일 코딩하며 살고 있다. 개발자 커뮤니티에서 골빈해커로 잘 알려져 있다. 야놀자 개발 총괄, 네이버 클로바 AI 리더, 원티드랩 생성 AI팀 리더를 거쳐, 현재는 AI 스타트업인 플레이모어 AI의 창업자이자 CTO이다. IT 업계의 경험과 전문성을 바탕으로 한 〈프롬프트 엔지니어링, LLM(ChatGPT) 기반의 AI 서비스 개발〉(패스트캠퍼스) 강의로 인기를 얻고 있으며, 서울대학교 인문대학에서 웹 프로그래밍을 가르치고 있다. 『골빈해커의 3분 딥러닝』(2017, 한빛미디어)으로 인공지능 분야 베스트셀러에 오른 작가이기도 하다. 친구같은 인공지능 로봇을 만드는 것이 꿈이다. 조만간 꿈을 이룰 것이다.
강의 채널 | 패스트캠퍼스 https://fastcampus.co.kr/data_red_golbin