Do it! BERT와 GPT로 배우는 자연어 처리 : 트랜스포머 핵심 원리와 허깅페이스 패키지 활용법

트랜스포머 핵심 원리와 허깅페이스 패키지 활용법

이기창 지음

이지스퍼블리싱 2021년 12월 01일 출간 종이책 : 2021년 12월 01일 출간

작품소개

책소개

‘사람 말을 알아듣는 AI’를 만들어 보자!
트랜스포머 핵심 원리부터 문서 분류, 기계 독해, 문장 생성 실습까지!

사람 말을 알아듣고 처리하는 인공지능은 어떻게 만들까? 이 책은 딥러닝 기반 자연어 처리 기술을 체계적이고 쉽게 배울 수 있는 입문서다. 이 책은 네이버 영화평, 뉴스 댓글, 질의응답 등 한국어 말뭉치로 실습해 국내 자연어 처리 연구가에게 더욱 효과적이며, 트랜스포머의 핵심 원리와 허깅페이스 패키지 활용법 등 최신 자연어 처리 기술의 진수를 담았다. 국내 대표 포털에서 자연어 처리를 연구하는 저자의 오랜 공력을 엿볼 수 있다.
1~3장에서는 트랜스포머와 전이 학습, BERT와 GPT의 핵심 동작 원리를 이해하고, 이를 바탕으로 4~8장에서는 감성 분석, 자연어 추론, 개체명 인식, 질의응답, 문장 생성 등 5가지 과제를 직접 수행해 본다. 실습 코드는 pytorch-lightning, 허깅페이스의 transformers 등 최신 오픈소스 라이브러리를 사용했다.

목차

=======================
1장 처음 만나는 자연어 처리
=======================
1-1 딥러닝 기반 자연어 처리 모델
1-2 트랜스퍼 러닝
1-3 학습 파이프라인 소개
1-4 개발 환경 설정

=========================
2장 문장을 작은 단위로 쪼개기
=========================
2-1 토큰화란?
2-2 바이트 페어 인코딩이란?
2-3 어휘 집합 구축하기
2-4 토큰화하기

=======================
3장 숫자 세계로 떠난 자연어
=======================
3-1 미리 학습된 언어 모델
3-2 트랜스포머 살펴보기
3-3 셀프 어텐션 동작 원리
3-4 트랜스포머에 적용된 기술들
3-5 BERT와 GPT 비교
3-6 단어/문장을 벡터로 변환하기

=======================
4장 문서에 꼬리표 달기
=======================
4-1 문서 분류 모델 훑어보기
4-2 문서 분류 모델 학습하기
4-3 학습 마친 모델을 실전 투입하기

=======================
5장 문장 쌍 분류하기
=======================
5-1 문장 쌍 분류 모델 훑어보기
5-2 문장 쌍 분류 모델 학습하기
5-3 학습 마친 모델을 실전 투입하기

=======================
6장 단어에 꼬리표 달기
=======================
6-1 개체명 인식 모델 훑어보기
6-2 개체명 인식 모델 학습하기
6-3 학습 마친 모델을 실전 투입하기

=======================
7장 질문에 답하기
=======================
7-1 질의응답 모델 훑어보기
7-2 질의응답 모델 학습하기
7-3 학습 마친 모델을 실전 투입하기

=======================
8장 문장 생성하기
=======================
8-1 문장 생성 모델 훑어보기
8-2 문장 생성 모델 파인튜닝하기
8-3 프리트레인 마친 모델로 문장 생성하기
8-4 파인튜닝 마친 모델로 문장 생성하기
찾아보기

출판사 서평

〈이 책의 특징〉
ㆍ 딥러닝 기반 자연어 처리 기술의 핵심 내용을 쉽게 전달
ㆍ 트랜스포머 계열 BERT, GPT의 동작 원리 중점 설명
ㆍ NSMC, KorQuAD 등 한국어 데이터의 전처리 노하우 공유
ㆍ 세계적으로 널리 쓰이는 허깅페이스, 파이토치 라이트닝 활용법 소개
ㆍ 자연어 처리 입문자, 비전공자의 진입 장벽을 낮추고자 수식과 코딩 최소화

칭찬과 욕설을 구분하는 AI는 어떻게 만들까? 기계는 지문을 읽고 답을 어떻게 찾을까? 인공지능은 어떻게 소설을 쓸 수 있을까? 이 책은 이런 질문의 해답과 함께 최근 자연어 처리 기술 발전의 중심에 있는 BERT와 GPT의 핵심 동작 원리를 알려 줍니다. 그리고 한국어 언어 모델과 데이터를 활용해 대표 과제 5가지를 직접 수행해 보면서 자연어 처리의 전반과 구체적인 활용법을 배웁니다.

▶ 수학, 코딩을 잘 몰라도 자연어 처리를 배울 수 있어요
자연어 처리를 정석대로 공부하자면 딥러닝을 비롯해 수학, 코딩 등 다양한 기법을 알아야 하지만, 이 책에서는 자연어 처리 입문을 포기하게 만드는 장벽을 허물고자 노력했습니다. 처음 시작할 때는 트랜스포머에만 집중해도 충분하기 때문입니다. 파이썬이나 파이토치 문법 역시 당장 몰라도 최종 목적지를 확인하는 데는 문제가 없습니다. 그래서 이 책은 자연어 처리를 자신의 업무에 도입해 보려는 개발자나 데이터 사이언티스트뿐만 아니라 자연어 처리에 입문하려는 어문 계열 학생이나 언어학 연구자도 쉽게 접근할 수 있도록 수식과 코딩을 최소화했습니다.

▶ 내 손으로 만든 인공지능을 맛보세요
이 책은 언어 모델을 만드는 것에 그치지 않고 웹 서비스까지 확장해서 모델이 제대로 동작하는지 시험해 볼 수 있도록 구성했습니다. 오픈소스로 공개된 한국어 말뭉치를 학습한 언어 모델을 만들고 빈칸 맞히기, 다음에 올 단어 맞히기, 질문에 답하기, 문장 생성하기 등 내가 만든 모델이 어떻게 동작하는지 웹 브라우저에서 직접 확인해 볼 수 있습니다.

▶ 편리한 실습 환경을 제공해요
자연어 처리를 배울 때 내 컴퓨터에 실습 환경을 구성하다가 포기하는 사람이 많습니다. 비전공자나 입문자에게는 그만큼 복잡하고 어렵기 때문인데요. 이 책은 구글의 클라우드 컴퓨팅 서비스인 코랩(Colab)에 모든 실습 환경과 코드를 마련해 두었습니다. 독자는 웹 브라우저에서 코랩에 접속해 책이 안내하는 대로 실습 과정을 진행하면 그 결과를 확인할 수 있습니다. 이 책에서만큼은 복잡한 환경 설정과 코딩에서 벗어나 자연어 처리의 핵심 원리와 활용법에 집중하도록 했습니다.

▶ 세계적으로 널리 쓰이는 최신 오픈소스 라이브러리를 배워요
실습 코드는 pytorch-lightning, 허깅페이스의 transformers 등 최신 오픈소스 라이브러리를 사용했습니다. 이 오픈소스 라이브러리는 전 세계에서 널리 쓰이고 있으며 내로라하는 연구ㆍ개발자들이 기능 개선에 참여해서 크게 발전하고 있습니다. 또한 편의성과 확장성이 좋아 책의 실습 코드를 변형해 나만의 모델을 만들어 보기가 편합니다.

〈이지스퍼블리싱 독자 지원〉
- ‘Do it! 스터디룸(cafe.naver.com/doitstudyroom)’에서 운영하는 [Do it! 공부단]에 참여해 보세요. 이 책으로 공부하며 나만의 스터디 노트를 작성하면 이지스퍼블리싱에서 출간한 다른 책을 선물로 받을 수 있습니다.
- 이지스퍼블리싱 홈페이지에 회원가입을 하면 매달 정기 소식지를 통해 신간과 이벤트 소식을 확인할 수 있습니다. 매달 전자책 한 권을 공개하는 이벤트도 진행해요.

작가정보

저자(글) 이기창

저자 : 이기창
서울대학교 국어국문학과를 졸업하고 고려대학교 대학원에서 공학 석사 학위(자연어 처리)를 취득했다. 문장 범주 분류에 큰 영향을 미치는 단어들에 높은 점수를 주는 기법을 다룬 논문(SCI 저널 게재)에 1저자로 참여했다. 대규모ㆍ고품질 언어 모델 학습과 구축을 업으로 삼고 있으며 문서 검색, 오픈 도메인 챗봇에 관심이 많다. 저서로는 《한국어 임베딩》(2019, 에이콘출판사)이 있으며 블로그(ratsgo.github.io)도 운영하고 있다. 딥러닝과 자연어 처리의 무궁무진한 가능성을 믿는다.