- 영문명
- Comparison of XAI Methods for Transformer based Multivariate Time Series Classification Model
- 발행기관
- 한국시뮬레이션학회
- 저자명
- 이동규(Dongkyu Lee) 전호철(Hocheol Jeon)
- 간행물 정보
- 『한국시뮬레이션학회 논문지』제34권 제3호, 51~62쪽, 전체 12쪽
- 주제분류
- 공학 > 기타공학
- 파일형태
- 발행일자
- 2025.09.30

국문 초록
다변량 시계열 분류 문제는 많은 응용 분야에서 연구되고 있다. 인공지능 기반의 많은 모델이 최근 개발되었고 그 성능이 향상되고 있다. 현재 개발되고 있는 많은 인공지능 모델은 블랙박스 형태로 모델의 출력에 대한 설명가능성이 요구되고 있다. 의학, 금융, 군사 분야 등의 주요 의사결정 분야에서 이러한 요구사항이 증가되고 있으며, 이러한 요구에 따라 다양한 인공지능 모델에 대하여 설명가능한 인공지능 기술(XAI)들이 제시되었다. 본 연구에서는 탄도 미사일의 궤적을 다변량 시계열 데이터로 간주하고, 궤적을 입력으로 받아 탄도 미사일의 탄종을 분류하는 트랜스포머 기반의 모델에 대하여 XAI 기법들을 적용하였고 그 결과를 비교, 분석하였다. 트랜스포머 기반의 다변량 시계열 분류 모델에 적합한 XAI 기법으로 LIME 분석과 SHAP 분석, 기울기 기반(Gradient Based) 분석 방법 등을 적용하고 각 방법의 분석 결과를 비교하였다. 각 방법을 적용하여 모델에 사용된 여러 특징 변수 중에서 가장 중요한 변수를 식별하였고, 시계열 데이터의 특성을 고려하여 어느 구간에서 어떤 특징 변수가 중요한지를 추가 식별하였다. 또한 각 기법들에 대하여 검증 결과를 비교하였다. 다양한 XAI 기법을 적용하고 그 결과를 비교하여 모델의 설명 가능성을 제시할 수 있었으며, 이는 모델의 분류 결과에 대한 신뢰도를 높일 수 있을 뿐 아니라 향후 모델의 성능 향상에도 기여할 수 있을 것이다.
영문 초록
Multivariate time series classification problems are being studied in many application fields. Many AI-based models have been developed recently, and their performances are improving. Many AI models being developed require the explainability of the model output in the form of a black box. This requirement is increasing in major decision-making fields such as medicine, finance, and military, and various AI technologies (XAI) that can explain AI models have been proposed in response to this demand. In this study, we considered the trajectory of a ballistic missile as a multivariate time series data, applied XAI techniques to a transformer-based model that receives the trajectory as input and classifies the type of ballistic missile. We applied LIME, SHAP, and gradient- based analysis methods as XAI techniques suitable for the transformer-based multivariate time series classification model, and compared the analysis results of each method. By applying each method, we identified the most important variable among the various feature variables used in the model, and additionally identified which feature variable is important in which section by considering the characteristics of the time series data. We also compared the verification results for each technique. By applying various XAI techniques and comparing the results, we were able to present the explainability of the model, which will not only increase the reliability of the model’s classification results, but also contribute to improving the model’s performance in the future.
목차
1. 서론
2. 적용 모델 및 XAI 기법
3. 실험 및 결과 분석
4. 결론
References
키워드
해당간행물 수록 논문
참고문헌
- International conference on machine learning
- Accountable and Explainable Methods for Complex Reasoning over Text
- Proceedings of the IEEE/CVF international conference on computer vision
- International Conference on Machine Learning, Optimization, and Data Science
- Proceedings of the 14th ACM international conference on web search and data mining
- Advances in neural information processing systems
- Scientific Reports
- arXivpreprint
- Journal of the Korea Society for Simulation
- arXivpreprint
- Advances in neural information processing systems
- arXivpreprint
- Proceedings of the KICS Conference
- Master’s thesis
- Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and data mining
- arXivpreprint
- IEEE transactions on neural networks and learning systems
- 2019 IEEE/CVF International Conference on Computer Vision Workshop (ICCVW)
- Joint European conference on machine learning and knowledge discovery in databases
- International Workshop on Advanced Analytics and Learning on Temporal Data
- Joint European Conference on Machine Learning and Knowledge Discovery in Databases
- arXivpreprint
- arXivpreprint
- ECAI 2020
- International conference on machine learning
- Ieee Access
- Applied Energy
- Journal of Computational Science
- arXivpreprint
- Advances in neural information processing systems
- Master’s thesis
최근 이용한 논문
교보eBook 첫 방문을 환영 합니다!
신규가입 혜택 지급이 완료 되었습니다.
바로 사용 가능한 교보e캐시 1,000원 (유효기간 7일)
지금 바로 교보eBook의 다양한 콘텐츠를 이용해 보세요!
