신뢰성을 강화하기 위한 인공지능 위험관리 프레임 워크

김종배 , 이경환 , 이민규 지음

작가와 2025년 02월 28일 출간

작품소개

책소개

"당신의 AI는 얼마나 믿을 수 있습니까?"
'신뢰성을 강화하기 위한 인공지능 프레임워크'는 AI가 우리의 일상을 빠르게 장악해가는 시대에 꼭 필요한 해답을 제시합니다. ChatGPT부터 자율주행차까지, 우리 삶의 중요한 결정을 AI에 맡기고 있지만, 정작 그 신뢰성에 대해서는 얼마나 알고 있습니까?
본 도서는 블랙박스처럼 비밀스러웠던 AI 시스템의 베일을 벗기고, 투명하고 공정한 인공지능을 구축하기 위한 실질적인 로드맵을 제공합니다. 단순한 이론이 아닌, 실제 비즈니스 환경에서 검증된 프레임워크를 통해 AI가 가진 잠재적 위험을 관리하고 최대한의 가치를 창출하는 방법을 배울 수 있습니다.
"AI는 왜 편향된 결정을 내릴까?", "AI의 판단 과정을 어떻게 이해할 수 있을까?", "내 데이터는 AI 시스템에서 안전할까?" 와 같은 핵심 질문들에 대한 명쾌한 답변을 제시합니다.
AI 개발자와 연구자들에게는 견고한 시스템 설계를 위한 기술적 지침을, 기업 리더들에게는 AI 도입과 관리를 위한 전략적 프레임워크를 제공할 것입니다.

목차

목차
전체 요약
1. 위험 프레임화
1.1 위험, 영향 및 피해의 이해/해결
1.2 AI 위험 관리의 도전 과제
1.2.1 위험 측정
1.2.2 위험 감내
1.2.3 위험 우선순위화
1.2.4 위험의 조직적 통합 및 관리
2. 사용 대상자
3. AI 위험 및 신뢰성
4. AI RMF의 유효성
5. AI RMF 코어
5.1 거버넌스 – Govern
5.2 매핑 - Map
5.3 측정 - Measure
5.4 관리 - Manage
6. AI RMF 프로파일
7. AI 액터 작업
7.1 AI 설계 작업
7.2 AI 개발 작업
7.3 AI 적용 작업
7.4 운영 및 모니터링 작업
7.5 TEVV 작업
7.6 인적 요인 작업
7.7 도메인 전문가 작업
7.8 AI 영향 평가 작업
7.9 조달 작업
7.10 거버넌스 및 감독 작업
7.11 추가 AI 액터
8. AI 위험과 전통적 소프트웨어 위험의 차이점
9. AI 위험 관리와 인간-AI 상호 작용
10. AI RMF의 속성
11. NIST AI RMF 플레이북
11.1 거버넌스 기능
11.2 매핑 기능
11.3 측정 기능
11.4 관리 기능
12. AI 라이프사이클 단계별 신뢰성 분류
12.1 계획 및 설계
12.2 데이터 수집 및 처리
12.3 모델 구축 및 사용
12.4 확인 및 검증
12.5 적용 및 사용
12.6 운영 및 모니터링
12.7 사용 및 영향
부록 A. 문서화 점검 사항 빈도별 분석

책 속으로

현대 사회에서 가장 많이 화두에 오르는 인공지능은 많은 장점을 가지고 있지만 한편으로는 많은 우려 사항도 수반한다. 인공지능을 통하여 사람이 많이 편리해진 점도 있지만, 인공지능의 결과를 너무 맹신하면 종종 잘못된 의사결정을 내릴 수도 있다. 최근에 적대적 기계 학습 공격도 대두되고 있어 이제는 인공지능의 위험도 필수적으로 관리해야 한다.
인공 지능은 강력한 툴이지만, 데이터 조작에 취약할 수 있다. 어쨌던 인공 지능은 훈련 데이터에 의존한다. 만일 데이터가 수정되거나 감염된다면, AI-강화 툴은 예상하지 않은 악성 결과를 생성할 수 있다.

작가정보

저자(글) 김종배

저자들은 인공지능과 컴퓨터 과학 분야의 전문가들이다. 특히 오픈소스 및 AI 신뢰성과 윤리적 프레임워크 구축에 관한 연구를 활발히 진행하고 있으며, 그에 대한 깊은 통찰력을 가지고 있다.
학계에서의 교육 활동과 더불어 산업계와의 협력을 통해 인공지능 기술의 실용적 적용에도 기여하고 있다.
다양한 저술 활동을 통해 최신 해외 연구 동향을 국내에 소개하는 데 앞장서 왔으며, '신뢰성을 강화하기 위한 인공지능 프레임워크'를 통해 인공지능의 안전하고 책임 있는 발전을 위한 중요한 지식을 국내 독자들에게 전달하고자 한다.

저자(글) 이경환

저자들은 인공지능과 컴퓨터 과학 분야의 전문가들이다. 특히 오픈소스 및 AI 신뢰성과 윤리적 프레임워크 구축에 관한 연구를 활발히 진행하고 있으며, 그에 대한 깊은 통찰력을 가지고 있다.
학계에서의 교육 활동과 더불어 산업계와의 협력을 통해 인공지능 기술의 실용적 적용에도 기여하고 있다.
다양한 저술 활동을 통해 최신 해외 연구 동향을 국내에 소개하는 데 앞장서 왔으며, '신뢰성을 강화하기 위한 인공지능 프레임워크'를 통해 인공지능의 안전하고 책임 있는 발전을 위한 중요한 지식을 국내 독자들에게 전달하고자 한다.

저자(글) 이민규

저자들은 인공지능과 컴퓨터 과학 분야의 전문가들이다. 특히 오픈소스 및 AI 신뢰성과 윤리적 프레임워크 구축에 관한 연구를 활발히 진행하고 있으며, 그에 대한 깊은 통찰력을 가지고 있다.
학계에서의 교육 활동과 더불어 산업계와의 협력을 통해 인공지능 기술의 실용적 적용에도 기여하고 있다.
다양한 저술 활동을 통해 최신 해외 연구 동향을 국내에 소개하는 데 앞장서 왔으며, '신뢰성을 강화하기 위한 인공지능 프레임워크'를 통해 인공지능의 안전하고 책임 있는 발전을 위한 중요한 지식을 국내 독자들에게 전달하고자 한다.