네트워크 트러블슈팅 가이드

프로토콜 계층별 네트워크 장애처리 실무

장혁 지음

에이콘온 2024년 11월 01일 출간

작품소개

책소개

네트워크 엔지니어의 실무 경험으로 완성한, 엔지니어가 반드시 알아야 할 프로토콜 계층별 네트워크 장애처리 완벽 가이드. 물리 계층에서 시작해 트랜스포트 계층, 그리고 그 이상에 이르기까지 이더넷 기반으로 IP와 TCP 프로토콜의 계층별 장애 처리 기법을 설명한다. 각 프로토콜 계층의 동작 특성과 이 특성에 따른 장애 처리 시의 확인 사항, 이해를 돕기 위해 실무에서 발생했던 실제 장애 상황들을 예로 들어, 조치 방안과 장애 처리 과정, 장애 원인 분석과 관련된 기술을 자세히 언급한다. 네트워크를 공부 중인 학생이나, 현업에서 엔지니어링을 수행하며 실무 능력을 향상시키고자 하는 네트워크 엔지니어는 물론이고, TCP의 동작 방식과 서버에서의 네트워크 장애 처리 방법, 네트워크 보안 관련 이슈 등을 알고 싶은 서버 관리자, 보안 업무를 수행하는 보안 관리 실무자들까지도 꼭 읽어야 할 필독서다.

이 책에서는 단순 장애에서부터 TCP의 동작 특성에 따라 발생할 수 있는 장애에 이르기까지 전반적인 네트워크 장애 처리 가이드를 제시한다. 장애 처리를 위해 프로토콜의 계층적 접근을 통한 분석과 필요한 이론적 배경, 네트워크 장비의 동작 특성 등을 살펴본다.

계층적 접근을 통한 장애 처리 방법을 습득하면서 장애 발생 시 로그와 사례별 키워드를 통해 문제 원인을 유추하고, 문제를 특정 계층이나 특정 프로토콜의 동작 상황으로 고립시킴으로써 자연스럽게 장애처리 능력을 향상시킬 수 있을 것이다.

목차

1장 TCP/IP 기본 개념
___1.1 TCP/IP 개요
______1.1.1 TCP/IP의 역사와 표준화 조직
______1.1.2 TCP/IP 표준과 RFC, IETF
___1.2 OSI 7계층과 TCP/IP(DoD) 계층 모델
___1.3 TCP/IP 5계층 모델
___1.4 캡슐화/역캡슐화, SAP
___1.5 3계층 네트워크 구성
___1.6 정리

2장 이더넷 물리 계층과 장애 처리
___2.1 물리 계층
___2.2 물리 계층 정의
___2.3 이더넷 인코딩 방식
______2.3.1 복귀 코딩 방식인 NRZ-L과 NRZ-I
______2.3.2 10Mbps 이더넷에 사용하는 맨체스터 방식
______2.3.3 100Mbps, 1Gbps 이더넷이 사용하는 블록 코딩 방식
___2.4 이더넷의 물리 계층 전송 매체
______2.4.1 UTP 케이블
______2.4.2 광케이블
______2.4.3 UTP, 광케이블 종류에 따른 표준 명칭
___2.5 케이블 테스터를 사용한 점검 방법
______2.5.1 와이어맵
______2.5.2 케이블 길이
______2.5.3 감쇠
______2.5.4 반송 손실
______2.5.5 근단 누화
______2.5.6 원단 누화
______2.5.7 등위 원단 누화
___2.6 현장에서의 에피소드
___2.7 사용 전 검사와 초고속 정보통신 건물 인증제도
______2.7.1 사용 전 검사의 구내 통신 선로 설비 공사 검사 기준
______2.7.2 초고속 정보통신 건물 인증제도
___2.8 정리

3장 이더넷 데이터 링크 계층과 장애 처리
___3.1 데이터 링크 계층
___3.2 이더넷 프로토콜
______3.2.1 이더넷(DIX 2.0) 프레임과 IEEE 802.3 이더넷 프레임
___3.3 이더넷 주소 방식(MAC 주소)
___3.4 이더넷 자동 협상 기능
______3.4.1 링크 테스트 펄스
______3.4.2 100Base-T/1000 Base-T 패스트 링크 펄스
______3.4.3 베이스 링크 코드 워드
______3.4.4 3가지 협상 모드
______3.4.5 자동 협상과 듀플렉스 미스매치
___3.5 이더넷 통신 방식 CSMA/CD와 충돌 에러
______3.5.1 충돌 에러의 발생과 동작 방식
______3.5.2 CSMA/CD 알고리즘 동작
______3.5.3 장비에서의 충돌 에러 확인
______3.5.4 늦은 충돌 에러
___3.6 장비에서 살펴본 이더넷 에러의 유형과 원인
______3.6.1 이더넷 스위치의 FCS
___3.7 IFG와 이론적 최대 전송률
______3.7.1 네트워크 장비의 처리 성능 산정
___3.8 이더넷 표준 IEEE 802.3 시리즈
___3.9 케이블이나 커넥터 부분 장애 처리
___3.10 시스코 스위치의 ErrDisable 메시지
______3.10.1 Errdisable을 발생시키는 다양한 원인
___3.11 이더넷 허브와 스위치
______3.11.1 이더넷 허브
______3.11.2 이더넷 스위치
___3.12 MAC 플러딩 공격과 방어
______3.12.1 MAC 플러딩의 개념
______3.12.2 MAC 스푸핑 공격
______3.12.3 MAC 스푸핑 공격 방어
___3.13 무차별 모드의 동작과 감지
______3.13.1 무차별 모드의 개념
______3.13.2 무차별 모드의 감지
___3.14 정리

4장 VLAN, 802.1pQ 장애 처리와 FCoE, DCB
___4.1 VLAN
______4.1.1 가상 랜
___4.2 IEEE 802.1pQ 트렁크 또는 태깅
______4.2.1 IEEE 802.1pQ, 트렁크 포트를 이용한 통신
______4.2.2 IEEE 802.1pQ 프레임 구조
______4.2.3 IEEE 802.1pQ 태그 정보 필드 구성
___4.3 VLAN, Trunk 포트를 통한 상호 통신
______4.3.1 VLAN 간 상호 통신
______4.3.2 액세스 포트와 트렁크 포트의 VLAN ID 처리 동작
___4.4 트렁크 VLAN 할당과 장애 처리
______4.4.1 라우팅 이중화 구간 구성
___4.5 FCoE와 DCB
______4.5.1 FCoE
______4.5.2 FCoE 프레임 포맷
______4.5.2 DCB
___4.6 정리

5장 2계층 스위치 루핑 방지 기술
___5.1 STP와 RSTP의 개념
______5.1.1 스위치 이중화 구성과 루핑
______5.1.2 루핑 발생의 영향
___5.2 STP 동작
______5.2.1 STP 연산 파라미터
______5.2.2 BPDU
______5.2.3 STP 포트 상태
______5.2.4 STP 연산 절차
___5.3 RSTP 동작
______5.3.1 RSTP와 STP
______5.3.2 RSTP 포트 상태와 역할
______5.3.3 RSTP BPDU
______5.3.4 RSTP 연산 방식
___5.4 WAF 이중화 구간의 STP 조정
______5.4.1 새시 가상화 기술
___5.5 정리

6장 PVST+ 동작과 장애 처리
___6.1 PVST+ 동작과 STP, RSTP 상호 연동
______6.1.1 포트의 역할에 따른 시스코 스위치의 트패닝 트리 동작 방식
______6.1.2 VLAN 종류와 관련 용어 정의
______6.1.3 VLAN 식별과 PVST+ SSTP TLV
___6.2 PVST+의 네이티브 VLAN에 따른 논시스코 스위치와의 연계
______6.2.1 네이티브 VLAN이 VLAN 1인 경우 프레임 전송
______6.2.2 네이티브 VLAN이 VLAN N인 경우 프레임 전송
______6.2.3 시스코 스위치가 네이티브 VLAN으로 802.1Q 트렁크 포트를 통해 MST 스위치와 연결되는 경우
___6.3 네이티브 VLAN 변경과 시스코 스위치 포트 타입 불일치
______6.3.1 네이티브 VLAN에 따른 시스코와 논시스코 스위치의 동작 특성
______6.3.2 SW-2의 논시스코 연결 링크를 VLAN 2 액세스 포트로 변경
___6.4 불일치 포트 타입
______6.4.1 불일치의 종류
______6.4.3 타입 불일치 발생 예
___6.5 주니퍼 스위치와 시스코 PVST+ 상호 연동
______6.5.1 주니퍼 STP/RSTP와 시스코 PVST+ 상호 연동
______6.5.2 주니퍼 스위치의 VSTP
___6.6 정리

7장 루핑 장애와 루프 회피 구성
___7.1 스패닝 트리 장애 처리와 루프 회피 구성
______7.1.1 프레임 루핑의 증상
______7.1.2 분석과 해결 방안
___7.2 VLAN 불일치에 따른 루핑 발생
______7.2.1 PVST+와 CST 간 루핑
______7.2.2 PVST+ 간 루핑
___7.3 스패닝 트리 구조의 루트 브리지 최적화
______7.3.1 구조 진단
______7.3.2 분석과 해결 방안
___7.4 루프 회피 네트워크 구성
______7.4.1 루프 회피 구성
______7.4.2 루프 회피 U 구조 분석
______7.4.3 루프 회피 역U 구조 분석
___7.5 L4 스위치 이중화
______7.5.1 L4 스위치 이중화와 스패닝 트리 구성
______7.5.2 L4 스위치 이중화를 위한 권장 구성
___7.6 정리

8장 링크 채널링과 장애 감지 기술
___8.1 LACP, PAgP, LLCF, BFD
______8.1.1 LACP와 PAgP
______8.1.2 LACP(IEEE 802.3ad)
______8.1.3 링크 어그리게이션 아키텍처 모델
______8.1.4 LACPUD의 마커 프로토콜과 제어 프로토콜
______8.1.5 LACP 부하 분산
___8.2 PAgP
______8.2.1 PAgP 모드 동작 방식
______8.2.2 PAgP 러너 타입
______8.2.3 PAgP 부하 분산
___8.3 LACP, PAgP 구성
______8.3.1 시스코 장비 간 또는 시스코와 논시스코 장비 간
______8.3.2 논시스코 장비를 통한 LACP, PAgP Tunneling 구성
______8.3.3 보안 장비(IPS)를 통한 PAgP Tunneling 구성
___8.4 LFP인 LLCF/LLR
______8.4.1 LLCF 동작
______8.4.2 LLR 동작
___8.5 LLCF 기능이 지원되지 않는 경우 네트워크 구성 방안
______8.5.1 정적 라우팅의 구성 예
______8.5.2 시스코 장비의 PBR을 이용한 다중 트래킹 예제
___8.6 BFD
______8.6.1 BFD 기능과 적용 범위
______8.6.2 BFD 동작 방식
______8.6.3 BFD 세션 관리
______8.6.4 BFD 적용 예
___8.7 정리

9장 ARP와 장애 처리
___9.1 ARP
______9.1.1 ARP 개요
______9.1.2 ARP 동작
___9.2 ARP 종류
______9.2.1 Reverse ARP
______9.2.2 Inverse ARP
______9.2.3 DHCP ARP
______9.2.4 Gratuitous ARP(gARP)
______9.2.5 ARP 프로브
______9.2.6 UnARP
______9.2.7 프록시 ARP
___9.3 프록시 ARP를 이용한 확장 LAN 간 라우팅
___9.4 ARP 스푸핑 공격
___9.5 ARP를 통한 장애 처리
___9.6 정적 ARP를 통한 ARP 테이블 관리
______9.6.1 시스템에서 정적 ARP 설정
______9.6.2 네트워크 장비에서 정적 ARP 설정
___9.7 정리

10장 IP 프로토콜과 장애 처리
___10.1 IP, ICMP, NAT, 라우팅 프로토콜
______10.1.1 IPv4 개요
___10.2 IP 프로토콜의 구성
______10.2.1 IP 헤더 구조
______10.2.2 IP 단편화
______10.2.3 식별 필드 값 분석을 통한 네트워크 장애 파악
______10.2.4 IP 주소 구성
______10.2.5 예약, 사설, 루프백 등의 네트워크 대역
______10.2.6 서브넷 마스크
___10.3 DHCP와 APIPA
______10.3.1 DHCP 동작
______10.3.2 APIPA의 동작
___10.4 ICMP
______10.4.1 ICMP 에러 메시지 전송 제한
______10.4.2 ICMP 구조
___10.5 NAT
______10.5.1 NAT의 장단점
______10.5.2 NAT 관련 용어 정리
___10.6 PAT
___10.7 라우팅 프로토콜
______10.7.1 RIP
______10.7.2 EIGRP
______10.7.3 OSPF
______10.7.4 IS-IS
______10.7.5 BGP
______10.7.6 라우팅 결정 프로세스
______10.7.7 라우팅 테이블의 생성과 가장 긴 프리픽스 매치
___10.8 라우팅 트러블슈팅
______10.8.1 라우팅 누락으로 인한 장애
______10.8.2 Re-Odering으로 인한 서비스 지연
______10.8.3 비대칭 경로로 인한 서비스 장애
______10.8.4 정적 라우팅에서 다음 홉 경로의 인터페이스 사용에 따른 과부하 장애
______10.8.5 라우트 재귀의 이해
___10.9 VRRP, HSRP
______10.9.1 VRRP
______10.9.2 HSRP
______10.9.3 HSRP, VRRP 구성의 한계
___10.10 정리

11장 4계층 프로토콜과 장애 처리
___11.1 4계층과 TCP/UDP
___11.2 TCP의 개요와 특징
______11.2.1 TCP 개요
______11.2.2 TCP 특징
______11.2.3 TCP 헤더 구조
___11.3 UDP 개요와 특징
______11.3.1 UDP의 특징
______11.3.2 UDP 헤더 구조
___11.4 CRC와 체크섬의 비교
______11.4.1 CRC
______11.4.2 체크섬
______11.4.3 TCP 체크섬 오프로드 기능
______11.4.4 TCP 체크섬 에러 증상
___11.5 TCP 3방향/4방향 핸드세이킹
______11.5.1 TCP 3방향 핸드셰이킹
______11.5.2 TCP 헤더 옵션
______11.5.3 TCP 3방향 핸드셰이킹과 RTT
______11.5.4 TCP SYN 플러딩 또는 TCP 하프오픈 공격
______11.5.5 TCP 4방향 핸드셰이킹
___11.6 TCP 리셋
___11.7 TCP 타이머
______11.7.1 TCP 유지 타이머
______11.7.2 TCP 지속 타이머
______11.7.3 TCP 재전송 만료 타이머
___11.8 지연된 ACK
___11.9 네이글 알고리즘
___11.10 TCP 흐름 제어
______11.10.1 TCP 슬라이딩 윈도우
______11.10.2 TCP 윈도우 크기 변화의 요인
______11.10.3 TCP 헤더 옵션을 통한 윈도우 필드 확장(RFC 1323)
______11.10.4 TCP 혼잡 제어
___11.11 TCP 윈도우 동작
___11.12 TCP 혼잡 제어 동작
___11.13 TCP SACK 옵션 선택적 재전송
______11.13.1 TCP SACK 옵션 구조
______11.13.2 TCP SACK 옵션의 동작
___11.14 서버 로드 밸런서(L4 스위치)
______11.14.1 L4 스위치 SLB 동작 방식
______11.14.2 L4 스위치 서비스 그룹의 실제 서버 관리
______11.14.3 L4 스위치 장애 사례
___11.15 엔지니어가 알아둬야 할 참고 사항
______11.15.1 netstat 명령
______11.15.2 HTTP 상태 코드
______11.15.3 작업 후 서비스 체크를 위한 모니터링 툴
___11.16 정리

12장 네트워크 관리
___12.1 네트워크 관리와 장애 처리
______12.1.1 구축 설계서와 운영 매뉴얼
______12.1.2 장애 처리 접근법
___12.2 네트워크 변경을 위한 고려 사항
______12.2.1 구성 측면의 고려 사항
______12.2.2 경제적 측면의 고려 사항
___12.3 정리

출판사 서평

★ 이 책에서 다루는 내용 ★

■ 프로토콜의 계층별 접근을 통한 장애 처리 방법
■ 계층별 주요 프로토콜 동작 방식
■ 장애 처리 시 요구되는 주요 정보와 각 상태 정보
■ 네트워크 측면에서의 보안성 강화 방법과 보안 이슈 해결 방안
■ 네트워크 관리자가 알아야 할 서버의 네트워크 명령과 상태 정보
■ 네트워크 관리와 장애 처리 시 고려 사항


★ 이 책의 특징 ★

■ 실무 중심의 장애 처리 사례와 깊이 있고 명쾌한 설명
■ 장애 처리를 위한 네트워크와 서버 측면에서의 TCP 프로토콜 동작 방식과 상태 정보 분석
■ 장애 처리 시 요구되는 주요 프로토콜의 특성을 자세히 설명한 패킷 분석
■ 네트워크 담당자들이 알아둬야 할 통신 이론에 대한 상세한 설명


★ 이 책의 대상 독자 ★

이 책은 네트워크를 공부 중인 학생이나 현업에서 엔지니어링을 수행하는 네트워크 엔지니어, 그리고 그 중에서 실무 능력을 향상시키고자 하는 사람들을 주요 대상 독자로 했다. 또한 TCP의 동작 방식과 서버에서의 네트워크 장애 처리 방법, 네트워크 보안 관련 이슈에 궁금증이 많은 서버 관리자나 보안 업무를 수행하는 보안 관리 실무자 역시 이 책의 주요한 잠재 독자라 할 수 있다.


★ 이 책의 구성 ★

1장. TCP/IP 기본 개념: TCP/IP의 기본 개념을 소개하는 장으로, TCP/IP의 역사와 표준화 조직, OSI 7계층 참조 모델과 TCP/IP 5계층 모델의 개괄적인 비교 내용을 다루며, TCP/IP의 캡슐화와 역캡슐화를 통해 프로토콜 계층 간 역할과 연계 방식을 살펴본다. 그리고 마지막에 네트워크 구성 측면에서의 3계층 모델을 통해 네트워크 디자인 시에 고려해야 할 각 계층과 계층 간 역할을 알아본다.

2장. 이더넷 물리 계층 장애 처리: TCP/IP 프로토콜의 1계층인 물리 계층의 역할에 대해 살펴보고, LAN을 구성하는 대표적인 프로토콜인 이더넷 물리 계층의 인코딩 방식, UTP 케이블링 방식, 100Base-T와 1000Base-T 통신 방식, 광케이블 구성과 광 통신에 사용되는 모드의 특성을 알아본다.

3장. 이더넷 데이터 링크 계층 장애 처리: 데이터링크 계층의 역할과 2계층 프로토콜인 이더넷 프로토콜의 구성과 특징을 자세히 기술한다. 또한 이더넷 프로토콜의 자동 협상 기능에서의 듀플렉스 미스 매치 상황과 장애 처리 방법, 충돌 에러를 비롯한 이더넷 장비에서의 다양한 에러 유형과 원인도 다루며, 이더넷 프레임 크기에 따른 이론적 최대 전송율과 허브, 스위치의 동작 방식, MAC 스푸핑에 의한 스위치의 스니핑 보안 위협도 설명한다.

4장. VLAN, 802.1pQ 장애 처리와 FCoE, DCB: 전형적인 2계층 이더넷 스위치에서 네트워크 구성의 유연성과 보안성을 강화하기 위한 기술인 VLAN과 802.1pQ 프로토콜을 자세히 다룬다. 특히 스위치에서의 VLAN_ID 처리 동작을 예제로 자세히 다루며, SVI(Switch Virtual Interface)로 라우팅 구간을 이중화 설정하는 경우에 트렁크 설정 문제로 발생할 수 있는 라우팅 장애 상황을 고려해본다. 마지막으로 최근 여러 제조사에서 발표하고 있는 DCB와 FCoE 프로토콜도 언급한다.

5장. 2계층 스위치 루핑 방지 기술: 2계층 스위치의 이중화 구성 시에 발생할 수 있는 루핑(looping)을 방지하기 위한 스패닝 트리 프로토콜을 다룬다. 스패닝 트리 프로토콜 STP(Spanning-Tree Protocol, IEEE 802.3d)와 수렴 시간을 대폭 개선한 빠른 스패닝 트리 프로토콜(Rapid STP, IEEE 802.3w)의 동작 방식과 프로토콜의 프레임의 구조를 살펴보고, 스패닝 트리의 연산 과정을 통해 토폴로지 변화에 따른 스위치 포트의 역할 변화와 스패닝 트리 프로토콜 상황에서의 네트워크 안정화를 위한 소요 수렴 시간을 알아본다.

6장. PVST+ 동작과 장애 처리: 시스코 스위치에서 독점적으로 사용하는 PVST(Per-VLAN Spanning Tree)의 동작을 자세히 살펴본다. 업계에서 다수 소비 계층을 형성하고 있는 시스코 스위치와 다른 제조사 스위치를 연계할 때 발생하는 스패닝 트리 이슈에 대한 원인과 조치 방안을 설명하고, 이에 대한 장애 처리 방법도 함께 언급한다. 또한 주니퍼(Juniper) 스위치와 시스코 스위치의 PVST 호환 방식을 설명함으로써 시스코 스위치와 다른 제조사 간 스위치 구성 시에 고려해야 할 사항을 전반적으로 이해할 수 있게 한다.

7장. 루핑 장애와 루프 회피 구성: 6장의 연장선상에서 실제 사례를 통해 루핑이 발생했을 때의 증상과 장애 처리 방법, 스패닝 트리 구성 최적화의 중요성과 루프 자체가 형성되지 않는 루프 회피를 구성하는 방법을 알아본다.

8장. 링크 채널링과 장애 감지 기술: 2계층 링크 채널링 프로토콜인 IEEE 표준 LACP와 시스코 독자 기술인 PAgP의 동작 방식을 설명하고, 채널링 링크의 부하 분산 이슈를 살펴본다. 링크 장애를 감지해 능동적으로 연관 링크를 제어할 수 있는 기술인 LLCF와 표준 양방향 링크 에러 감지 프로토콜인 BFD도 살펴본다.

9장. ARP와 장애 처리: 통신을 위해 가장 기본적인 IP 정보를 지원하는 다양한 ARP 프로토콜들의 용도와 프로토콜별 동작 특성, ARP를 이용한 스푸핑 공격, ARP를 이용한 장애 처리 방법과 ARP 테이블 관리 방안을 살펴본다.

10장. IP 프로토콜과 장애 처리: IP 프로토콜 헤더의 구성과 IP 주소 범위, DHCP 동작과 DHCP 에이전트 동작 방식을 설명한다. 또한 3계층의 여러 프로토콜 중 인터넷 제어 메시지와 NAT, VRRP, HSRP의 동작과 설정, 라우팅 장애 사례 등을 통해 인터넷 계층의 장애 처리 방법을 살펴본다.

11장. 4계층 프로토콜과 장애 처리: 트랜스포트 계층의 프로토콜인 TCP와 UDP를 설명하며, 특히 TCP를 중심으로 동작 특성과 프로토콜 알고리즘을 살펴본다. 실무 네트워크 책에서는 잘 다루지 않았던 TCP의 윈도우 동작과 RTO에 따른 재전송 및 장애 상황에서의 동작 방식, 흐름 제어 방식을 알아본다. 그리고 TCP 프로토콜을 악용한 하프오픈(half-open) 공격이나 L7 장비에서의 로드 밸런싱 및 애플리케이션 계층에서의 보안 검사를 위해 사용하는 TCP 세션 인터셉트 방식을 설명한다. 또한 혼잡 제어의 빠른 재전송, 선택적 재전송(SACK)의 동작 방식 등을 다루며, 마지막으로 네트워크 엔지니어가 알아야 할 TCP 명령들과 WEB 서버의 에러 코드 등 포괄적인 내용을 다룬다.

12장. 네트워크 관리: 네트워크의 관리와 장애 처리 방법을 알아본다. 대부분의 엔지니어들이 문서화에 대해 적잖게 부담을 느끼는 것이 사실이다. 하지만 문서화야말로 더 나은 네트워크를 구성하는 바탕이 되는 작업이며, 이를 위해 무엇을 어떻게 문서화할지 알아본다. 또한 장애를 어떻게 접근해야 하는가에 대해 지금껏 경험해왔던 점들에 비춰 대처 방법을 몇 가지 키워드로 나열한다.

작가정보

저자(글) 장혁

현재 국가 주요기관의 네트워크 엔지니링 부문에 근무하면서 국가망 관리와 국가 IDC 운영을 수행 중이며, 차세대 네트워크 기술과 트렌드에 관심이 많아 클라우드 및 미래 네트워크 인프라 설계 업무도 병행한다. 또한 프로토콜 분석 분야에도 관심이 많아 틈틈이 장애 및 보안과 관련된 패킷 분석도 수행 중이다.