자율주행 도메인에서 LoRA 기반 sLLM 파인튜닝 연구

• 영문명: LoRA-based Fine-tuning of sLLM for Domain-specific Knowledge Systems in Autonomous Driving
• 발행기관: 한국자료분석학회
• 저자명: 김다연(Dayeon Kim) 전수영(Sooyoung Cheon) 주아림(Ah-Rim Joo)
• 간행물 정보: 『Journal of The Korean Data Analysis Society (JKDAS)』Vol.27 No.3, 769~780쪽, 전체 12쪽
• 주제분류: 자연과학 > 통계학
• 파일형태: PDF
• 발행일자: 2025.06.30

국문 초록

최근 자율주행 기술의 발전으로 다양한 센서 및 주행 데이터가 급증하고 있으며, 이러한 데이터를 효율적으로 처리하고 실시간으로 응답할 수 있는 지식 처리 시스템의 필요성이 커지고 있다. 특히, 복잡한 자율주행 상황에서 차량이 내리는 의사결정을 인간이 이해할 수 있도록 설명하는 능력은 안전성과 신뢰성 확보를 위한 필수 요소이다. 기존의 RAG(retrieval-augmented generation) 방식은 다양한 도메인 간 일반화 성능이 우수하지만, 특정 도메인 내에서는 정확성과 응답 일관성 측면에서 한계를 가진다. 이러한 문제를 해결하기 위해 본 연구에서는 소형 초거대언어모델에 LoRA(low-rank adaptation) 기반 파인튜닝을 적용한 LoRA FT-Driver 모델을 제안한다. 제안된 모델은 전체 파라미터의 약 0.01%만을 조정하여 적은 자원으로도 높은 정확도와 일관된 응답을 제공할 수 있으며, 모델 규모가 경량화되어 자율주행차량과 같은 임베디드 시스템에 적합하다. 자율주행 설명 데이터셋(BDD-X)을 사용한 질적·정량적 실험 결과, RAG 대비 우수한 성능을 보였다. 또한, 교통 법규 위반 유형 분류와 같은 확장된 실험에서도 뛰어난 도메인 전이 능력을 입증하였다.

영문 초록

Recent advances in autonomous driving technology have resulted in an explosive increase in sensor and driving data, highlighting the need for efficient knowledge -processing systems capable of providing real-time responses. In particular, the ability of autonomous vehicles to explain their decision-making processes in complex driving situations to human users is crucial for ensuring safety and reliability. While existing RAG methods show strong generalization performance across various domains, they have limitations regarding accuracy and consistency in domain-specific contexts. To address this issue, this study proposes LoRA FT-Driver, a fine-tuned sLLM utilizing LoRA. The proposed model adjusts only approximately 0.01% of total parameters, ensuring high accuracy and consistent responses even with limited computational resources. Its lightweight architecture makes it well-suited for deployment in embedded systems such as autonomous vehicles. Qualitative and quantitative experiments conducted using the BDD-X dataset demonstrated that LoRA FT-Driver significantly outperforms RAG-based models. Additionally, extended experiments, such as classification tasks involving traffic violation types, confirmed the model’s superior domain transfer capabilities.

목차

1. 서론

2. 자율주행분야에서의 기존 대형 언어모델

3. LoRA FT-Driver

4. 실증자료분석

5. 결론

References

키워드

자율주행 Autonomous Driving RAG Fine-tuning LoRA Prompt engineering