인공지능 공격 기술, 사례 및 완화대책

김종배 , 이경환 지음

작가와 2025년 06월 16일 출간

작품소개

책소개

급속히 발전하는 인공지능 시대, 우리는 새로운 형태의 보안 위협에 직면하고 있습니다. 본서는 AI 시스템을 겨냥한 다양한 공격 기법과 이에 대응하는 실질적인 방어 전략을 체계적으로 다룬 종합 가이드입니다.
머신러닝 모델에 대한 적대적 공격(Adversarial Attack)부터 데이터 오염(Data Poisoning), 모델 역공학(Model Inversion)에 이르기까지, AI 시스템이 직면한 보안 취약점들을 깊이 있게 분석합니다. 특히 MITRE ATLAS 프레임워크를 기반으로 한 체계적인 분류와 분석을 통해 독자들이 AI 보안 위협을 명확하게 이해할 수 있도록 구성했습니다.

대상 독자
AI/ML 시스템 개발자 및 엔지니어
정보보안 전문가 및 보안 관리자
AI 거버넌스 및 리스크 관리 담당자
사이버보안 연구자 및 학생
AI 기술을 도입하려는 기업의 의사결정자

AI가 우리 일상과 비즈니스에 깊숙이 스며든 지금, AI 보안은 선택이 아닌 필수입니다. 본서를 통해 AI 시스템의 보안 취약점을 이해하고, 효과적인 방어 전략을 수립하여 안전하고 신뢰할 수 있는 AI 환경을 구축하는 데 도움이 되기를 바랍니다.

목차

1. AI 보안 개요

2. ATLAS 개요

3. 공격전술

4. 공격기술

5. 완화대책

6. 사례연구

그림목차
표목차

책 속으로

인공지능(AI, Artificial Intelligence) 기술은 빠른 속도로 발전하고 전세계적으로 AI 적용이 점점 더 늘고 있다. 한때는 고수준의 통제 운영 환경과 사용 사례에서만 국한되어 사용되었지만, 현재는 다양한 사용 사례에 효율적으로 통합되고 대중에게 가용한 AI-이용 시스템(하나 이상의 AI 컴포넌트를 가진 소프트웨어 시스템)을 어디에서나 볼 수 있다.
AI 보안은 AI 모델과 AI-이용 시스템의 기밀성/무결성/가용성을 침해할 수 있는 위협과 공격을 식별하기 위해 구현된 툴, 전략 및 프로세스로 정의될 수 있다. AI 보안은 운영 전반에 걸쳐 안전과 일관된 성능을 보장하기 위한 AI 개발 라이프사이클의 주요 컴포넌트이다. 전통적인 사이버보안 취약성에 추가하여, 시스템에 AI를 결합하면 새로운 보안 절차 세트가 요구되는 신규 위협 벡터와 취약성이 도입될 수도 있다. 이런 AI-이용 시스템의 취약성 식별과 완화는 AI 보안의 필수 부분이고 기술적/운영적 대응을 필요로 한다.
본 문서는 MITRE ATLAS(Adversarial Threat Landscape for Artificial-Intelligence Systems) 보안, AI 라이프사이클 및 실제 연구 영역에서 문서화된 AI-이용 시스템의 일반적인 위험을 서술한다.

작가정보

저자(글) 김종배

김종배 저자는 인공지능과 컴퓨터 과학 분야의 전문가들이다. 특히 오픈소스 및 AI 신뢰성과 윤리적 프레임워크 구축에 관한 연구를 활발히 진행하고 있으며, 그에 대한 깊은 통찰력을 가지고 있다.
학계에서의 교육 활동과 더불어 산업계와의 협력을 통해 인공지능 기술의 실용적 적용에도 기여하고 있다.
다양한 저술 활동을 통해 최신 해외 연구 동향을 국내에 소개하는 데 앞장서 왔으며, '인공지능 공격 기술, 사례 및 완화대책'를 통해 인공지능의 안전하고 책임 있는 발전을 위한 중요한 지식을 국내 독자들에게 전달하고자 한다.

저자(글) 이경환

이경환 저자는 융합보안을 중점으로 연구를 하고 있고 관련 내용에 관해 분석한 내용을 종합하여 책으로 출판하고 있다. 인공지능보안, 사이버회복력 및 MITRE Framework(ATT&CK, D3FEND, Engage 등)에 전문성을 가지고 있으며 강의와 프로젝트를 병행하고 있다.