국방 인공지능 무기체계의 위험성 평가측정지표 개발 실증연구 - 중대급 이하의 현장 운용 요원을 중심으로

• 영문명: An Empirical Study on the Development of Risk Assessment Indicators for Defense Artificial Intelligence Weapon Systems : Compound Focusing on Field Operators Below Company Level
• 발행기관: 사단법인 한국안전문화학회
• 저자명: 정윤기(Yun Ki Jung) 권혁진(Hyuk Jin Kwon) 최종근(Jong Geun Choi) 정재훈(Jae Hoon Jung)
• 간행물 정보: 『안전문화연구』제43호, 79~95쪽, 전체 17쪽
• 주제분류: 사회과학 > 사회과학일반
• 파일형태: PDF
• 발행일자: 2025.06.30

국문 초록

인공지능기술과 드론 등의 무인무기체계 발전으로 국방분야에서 인공지능 기반 무기체계 개발이 활발하게 진행되고 있다. 많은 소요에 대비하여 인공지능 무기체계는 오작동 및 오인식 등에 따른 피해를 초래할 수 있으나, 이를 예방하기 위한 관련 연구는 부족한 실정이다. 본 연구는 중대급 이하의 현장운용요원을 중심으로 국방 인공지능 무기체계의 안전한 운용을 위한 위험성 평가측정지표를 제안한다. 이 측정지표를 개발하기 위해 문헌조사와 사례를 분석하여 설문지를 개발하였다. 설문문항은 범용성 있게 합동기능을 적용하여 ‘위험성 평가 분야’를 구분하였으며, 구현해야 하는 기능을 ‘항목’으로 설정하고, 구현해야 하는 기능을 발휘하지 못하게 하는 원인을 ‘측정지표’로 제시하였다. 국방분야, 인공지능 및 무기체계에 전문성을 가진 30명의 전문가를 대상으로 두 차례의 델파이 설문조사를 실시하였다. 통계분석결과, 측정지표의 신뢰도와 타당도가 검증되었으며, 위험성 평가 측정지표는 6개 분야, 19개 항목으로 분류되고, 최종적으로 65개의 측정지표가 도출되었다. 이 측정지표가 국방 인공지능 무기체계의 운용 안전성을 높이는 데 기여할 것으로 기대된다. 나아가, 본 연구는 국방 인공지능 무기체계의 안전한 운용을 위한 초석이 되어, 개별 무기체계에 적합한 보다 정교한 위험성 평가측정지표의 개발로 이어지기를 기대한다.

영문 초록

The advancement of artificial intelligence technology and unmanned weapon systems such as drones has led to active development of AI-based weapon systems in the defense sector. While addressing numerous operational demands, AI weapon systems may cause harm due to malfunctions or misrecognitions. However, research to prevent such incidents remains insufficient. This study proposes risk assessment indicators to ensure the safe operation of defense AI weapon systems, focusing primarily on operators at the company level and below. To develop these indicators, a literature review and case analysis were conducted, followed by creating a survey questionnaire. The survey items were designed to be universal by incorporating joint functionalities to distinguish “risk areas,” at the same time functions to be implemented were classified as “items,” and causes inhibiting functionality implementation were proposed as “measurement indicators.” Two rounds of Delphi surveys were conducted with 30 experts specializing in the defense sector, artificial intelligence, and weapon systems. Statistical analysis verified the reliability and validity of the proposed indicators, categorizing risks into six areas with 19 items, ultimately deriving 65 evaluation indicators. These indicators are expected to contribute to enhancing the operational safety of defense AI weapon systems. Furthermore, this study provides a foundation for developing more sophisticated risk assessment indicators tailored to individual weapon systems.

목차

Ⅰ. 서 론

Ⅱ. 이론적 배경 및 선행연구 고찰

Ⅲ. 연구결과분석

Ⅳ. 연구결과 종합

Ⅴ. 결 론

참고문헌

키워드

국방 인공지능 무기체계 위험성 평가측정지표 현장운용요원 무기체계 안전성 델파이조사 Defense AI weapon systems Risk assessment indicators Field operators Weapon systems safety Delphi survey