Designing Attack Scenarios on AI Systems of Autonomous Ships Based on Model Inversion

Model Inversion 기반 자율운항선박 AI 시스템 공격 시나리오 설계

본 논문은 자율운항선박의 충돌 회피 AI 시스템을 대상으로, 분할 학습 구조에서 발생할 수 있는 Model Inversion 공격 시나리오를 설계하였다. 공격자는 피처 벡터를 탈취해 환경 정보를 복원하고, 이를 바탕으로 적대적 입력이나 데이터 오염과 같은 2차 공격을 수행할 수 있다. 특히 이러한 공격은 정상 추론처럼 위장되어 기존 침입 탐지 체계로는 탐지하기 어렵다. 본 연구는 위협 구조를 트리 형태로 정리하고, 정량적 평가 및 방어 체계 구축을 위한 기반을 제시한다.