문과 출신인데 AI 서버 구축 중입니다

Ollama와 OpenWebUI로 AI 로컬서버구축

Rao K 지음

e퍼플 2025년 04월 11일 출간

작품소개

책소개

[머릿말]
이 책을 읽는 독자들은 아마도 AI 모델을 직접 실행해 보고 싶거나, 클라우드에 의존하지 않고 개인 PC에서 AI 환경을 구축하고 싶다는 생각을 해본 적이 있을 것입니다. 하지만 직접 AI 서버를 구축해 본 경험이 없다면 어디서부터 시작해야 할지 막막할 수도 있습니다.

이 책은 초보자도 쉽게 따라 할 수 있도록 개인 PC에서 AI 서버를 구축하는 방법을 자세하게 설명합니다. AI 모델을 실행하기 위해 필요한 하드웨어 구성, 소프트웨어 설치, 서버 최적화, 원격 접속, 그리고 실제 활용 방법까지 단계별로 쉽게 따라 할 수 있도록 구성되어 있습니다.

최근 AI 기술이 급격히 발전하면서 누구나 자신만의 AI 모델을 실행할 수 있는 환경이 조성되고 있습니다. 많은 사람들이 AI 모델을 활용하기 위해 클라우드 서비스를 이용해야 한다고 생각하지만, 비용 문제나 데이터 프라이버시 등의 이유로 개인 PC에서 AI 서버를 구축하는 것이 더 적절할 수도 있습니다.

[AI 채팅 서버 구축, 어렵지 않습니다!]
이 책을 통해 Ollama를 이용하여 쉽게 AI 채팅 서버를 구축하는 방법을 익힐 수 있습니다.
특히, exaone3.5:2.4b 모델을 활용하여 한국어에 최적화된 AI 환경을 구성할 수 있습니다.

개인 PC에서 AI 채팅 서버를 실행하고 직접 모델을 활용하는 방법을 배울 수 있습니다.
Ollama + Docker + WSL을 활용하여 AI 모델을 실행하는 다양한 방법을 다룹니다.
클라우드에 의존하지 않고, 개인 PC에서 자유롭게 AI를 운영하는 방법을 설명합니다.
이제 AI 채팅 서버를 구축할 준비가 되셨나요?

[이 책을 어떻게 활용하면 좋을까요?]
1. 단계별로 차근차근 따라하기
처음부터 모든 내용을 숙지하려 하기보다, 한 단계씩 따라가며 직접 AI 서버를 구축하는 것이 중요합니다.

2. 문제가 발생하면 검색하고 해결하는 습관 기르기
운영체제, 네트워크 환경, 하드웨어 사양이 다를 수 있기 때문에 예상치 못한 오류가 발생할 수 있습니다.
이 책이 모든 문제를 해결해 주지는 않지만, 해결 방법을 찾는 방향을 제시합니다.

3. 단순한 따라 하기보다는 원리 이해하기
명령어를 실행하는 것뿐만 아니라, 각 과정이 왜 필요한지 고민하고 이해하려는 자세가 중요합니다.

목차

1장: AI 채팅 서버란 무엇인가?
1.1 AI 채팅 서버 개념과 활용 사례
1.2 로컬 AI 채팅 서버의 장점
1.3 개인 PC로 AI 채팅 서버를 운영하는 이유
1.4 AI 채팅 서버를 구축하기 위한 최소 요구 사양
2장: AI 채팅 서버 구축을 위한 준비
2.1 Ollama 및 exaone3.5:2.4b 개요
2.2 필요한 하드웨어 및 소프트웨어
2.3 GPU 및 드라이버 확인 방법
2.4 드라이버 업데이트 실패 시 문제 해결 방법
3장: Ollama 및 exaone3.5:2.4b 설치하기
3.1 Windows에서 Ollama 설치
3.2 WSL을 이용한 Ollama 설치
3.3 Docker를 이용한 Ollama 설치
3.4 Ollama 모델 다운로드 및 실행
4장: AI 채팅 서버 운영 및 Open Web UI 설정
4.1 Ollama AI 서버 백그라운드 실행하기
4.2 Open Web UI 설치 및 설정
4.3 AI 서버 원격 접속 및 관리
5장: AI 모델 성능 비교 및 요구 사양
5.1 exaone3.5:2.4b 모델 성능 분석
5.2 AI 모델별 최소/권장 하드웨어 사양
6장: AI 채팅 서버를 외부에서 접속하기
6.1 로컬 네트워크에서 AI 서버 접속
6.2 외부에서도 AI 서버 접속 가능하게 만들기
- 포트 포워딩 설정
- Cloudflare Tunnel 활용
- VPN (Tailscale) 활용
7장: AI 서버 자동화 및 성능 최적화
7.1 Ollama AI 모델 자동 실행 설정
7.2 Docker Compose를 활용한 AI 서버 관리

작가정보

저자(글) Rao K

Rao K, IT 테크 기업 NHN에서 서버 개발을 담당하고 있는 전문 개발자.
현재 NHN 소속 서버 개발팀에서 대규모 트래픽을 처리하는 안정적인 서버 아키텍처를 설계하고 운영 중이다.

과거 AI 관련 연구개발(R&D) 경험을 바탕으로, NHN에서 축적한 서버 개발 노하우를 결합하여, 누구나 쉽게 따라 할 수 있는 실전 AI 서버 구축 가이드를 만들었다.

AI 기술이 빠르게 발전하는 지금, NHN에서 쌓아온 실전 서버 개발 경험을 바탕으로, 개발자들이 자신만의 AI 서버를 구축하고 운영할 수 있도록 돕기 위해 이 책을 집필했다.

"NHN에서의 실전 경험과 AI 기술이 만나다!"
이 책을 통해 AI와 서버 기술을 직접 경험하며 새로운 가능성을 탐험해보자.