기계의 언어, 언어의 기계

신승철 지음

커뮤니케이션북스 2025년 05월 23일 출간 국내도서 : 2025년 05월 23일 출간

작품소개

책소개

인공지능의 핵심인 자연어 처리의 원리와 역사를 탐구한다. 기술적 이해를 바탕으로 철학, 윤리, 인문학적 관점을 더해 AI와 언어의 본질을 깊이 들여다본다.

목차

인공지능과 자연어 처리

01 자연어 처리의 역사
02 수학적 기반
03 언어의 수학적 표현
04 기계학습과 자연어 처리
05 신경망과 자연어 처리
06 트랜스포머와 현대 언어 모델
07 자연어 처리와 언어학
08 자연어 처리와 언어 철학
09 인간과 기계의 윤리
10 인공지능의 미래

책 속으로

단어 임베딩 기술은 단어를 벡터 공간에 표시할 때 단어 간의 관계가 반영되도록 벡터 간의 관계를 설정하는 방법이다. 임베딩은 말 뜻대로 하면 삽입이다. 수학에서 임베딩은 기하학, 추상대수학, 위상수학 등 여러 분야에서 등장한다. 각 분야에 따라 구체적인 정의와 역할이 다르다. 공통적으로는 어떤 공간의 값들을 다른 공간의 값들로 변환하면서 값 사이의 구조적 특성이 보존되도록 하는 함수다. 단어 임베딩 이 개념을 언어 처리에 적용한 것이다. 언어를 단어들이 관계를 맺고 있는 공간이라고 간주해 보자. 이 언어 공간 내의 단어들을 벡터 공간으로 옮기는 것이다. 언어 공간에서 관계를 맺고 있는 단어들이 벡터 공간에서도 유사한 관계를 맺도록 하는 것이 관건이다. 단어 임베딩은 학습 과정을 통해 언어 공간에서 설정된 단어 간의 관계를 벡터 공간에 반영한다.
－03_“언어의 수학적 표현” 중에서

오늘날 자연어 처리는 대부분 딥러닝을 기반으로 한다. 딥러닝은 심층 신경망을 이용하는 기계학습 방법을 말한다. 신경망은 특징 기반 기계학습과 달리 특징 설계를 따로 하지 않고 데이터를 학습한다. 신경망은 통계적 방법이나 특징 기반 기계학습 이후에 나온 기술이 아니다. 이 세 가지 방법론은 1950∼1960년대부터 서로 앞서거니 뒤서거니 하면서 발전해 왔다. 1958년에 로젠블랫이 퍼셉트론(perceptron)을 제안했다. 명시적인 알고리즘이나 규칙 없이 데이터 학습으로 분류 규칙을 만들어 내는 최초의 인공 신경망 모델이다. 심층 신경망으로 가기 전에 신경망의 초기 형태로부터 학습 원리를 생각해보자.
－05_“신경망과 자연어 처리” 중에서


트랜스포머의 주요 특징은 병렬 처리, 셀프 어텐션, 위치 인코딩이다. 단어 벡터를 처리할때 행렬 연산을 병렬로 처리함으로써 입력 단어를 동시에 처리할 수 있다. 수천 개의 코어를 이용해 병렬로 부동소수점 연산을 수행하는 GPU가 대규모 언어 모델에서 중요한 역할을 하는 이유다. 셀프 어텐션은 입력 문장과 출력 문장의 관계를 계산하는 인코더ᐨ디코더 어텐션과 달리 동일한 문장 내에서 단어 간의 관계를 계산한다. 이것은 긴 문장의 맨 앞 단어와 맨 뒤 단어 간의 관계도 별도로 계산하기 때문에 장거리 의존성 문제를 완전히 해결한다. 위치 인코딩은 트랜스포머가 순차 신경망 구조를 포기하면서, 단어 간의 순서 특성과 구문적 특성을 반영하기 위해서 도입한 것이다. 입력 문장이 주어지면 단어 임베딩으로 생성된 벡터 표현에 단어 간의 위치 정보를 추가한다.
－06_“트랜스포머와 현대 언어 모델” 중에서

비트겐슈타인은 의미를 고정된 정의로 파악하는 그 이전 철학을 비판하고, 대신 언어가 특정한 규칙과 관습 속에서 어떻게 사용되는지 봐야 한다고 주장했다. 그는 이를 설명하기 위해 언어 게임 개념을 도입한다. 언어 게임이란 특정한 사회적 맥락에서 언어가 사용되는 방식을 의미한다. 예를 들어, “증명”이란 단어는 다양한 맥락에서 서로 다른 의미를 가진다. “이 수식은 증명되었다”는 문장 속의 “증명”은 수학적 맥락에서 연역적인 논리에 의한 엄밀한 검증을 의미한다. “무죄가 법적으로 증명되었다”는 법적 맥락에서 합리적인 판단의 결과이지 절대적으로 무죄인지와는 별개다. “내 주장을 증명할 수 있다”는 문장이 일상 대화에서 사용된다면, 상대방을 설득하거나 자신을 정당화하는 정도의 사회적 확신을 말하는 것이지, 절대적인 진리를 의미하는 것은 아니다. 이렇게 맥락에 의존하는 의미 형성 방식은 대규모 언어 모델이 단어의 의미를 처리하는 방식과 유사하다. 언어 모델은 고정된 의미를 저장하거나 학습하지 않고, 특정한 문맥에서 단어가 어떻게 사용되는지를 학습해 적절한 응답을 생성한다.
－08_“자연어 처리와 언어 철학” 중에서

과연 대규모 언어 모델이 인간의 언어 능력을 능가하고 인간의 언어 이해를 습득하게 될까? 비관론자들은 현재의 기술 수준에서 부족한 면을 찾아내서 부정적인 평가를 내린다. 반대로 낙관론자들은 기술의 근본적인 방향에서 가능성을 찾아내고 긍정적인 전망을 내놓는다. 한쪽은 기계로 구현할 수 없는 인간의 고유한 영역이 있다고 주장한다. 다른 쪽은 인간이 더 복잡하긴 해도 기계와 다를 바 없다고 주장한다. 양 진영의 의견은 팽팽하다. 우리가 꿈꾸는 미래가 무엇이든, 엄밀하고 과학적으로 고찰할수록 예측 가능성은 높아질 것이다.
－10_“인공지능의 미래” 중에서

출판사 서평

AI, 인간을 닮아가는 기계의 말하기
인공지능의 핵심 기술인 자연어 처리(NLP)의 본질과 진화를 통찰한다. 호메로스의 황금 하녀에서 시작해 튜링 기계, 대규모 언어 모델까지 이어지는 AI의 언어 역사를 탐색하며, 기술적 원리와 철학적 의미를 함께 고찰한다.
단순한 도구를 넘어 인간과 소통하는 존재로 진화한 AI는 언어를 통해 인간성을 닮아가고 있다. 이 책은 자연어 처리의 원리, 철학, 윤리, 미래까지 다루며, 기술적 이해를 넘어 균형 잡힌 인문학적 시선을 제공한다.

작가정보

저자(글) 신승철

대학 교수와 벤처 기업인을 지낸 컴퓨터과학자다. 소프트웨어 검증 전문가이며 프로그래밍언어 이론, 수리논리학, 프로그램 분석과 검증을 연구하고 가르쳤다. 연구실 창업으로 소프트웨어 검증 전문기업을 설립하고 대표를 지냈다. 현재는 코드마인드 연구고문이고 경기대학교 AI 컴퓨터공학부 겸직교수다. 컴퓨터과학을 비롯해서 과학과 인문학 전반에 걸쳐 읽고 쓴다.