Analysis of AI Scrapers Exploitation Scenarios via the SEIR Epidemic Model for Poisoning Attacks

오염 공격에 대한 SEIR 전염병 모델을 활용한 AI 스크래퍼 악용 시나리오 분석

AI(Artificial Intelligence) 시대가 도래됨에 따라 범국가적인 형태로 AI 산업 시장에서 기술 패권을 선도하고자 하는 노력이 이루어지고 있다. 해당 분야에서 가장 중요시 되고 있는 것은 데이터이다. 양질의 데이터를 보유하고 있다는 것은 AI 기술을 활용하여 양질의 데이터를 생성할 수 있음을 의미한다. 이에 따라 AI 기술에 기반을 두고 있는 기업들은 자동으로 데이터를 크롤링하기 위하여 AI 스크래퍼를 인터넷 상에 배포하고 있다. 하지만, AI 스크래퍼를 통해 데이터를 크롤링할 시 발생하는 트래픽으로 인하여 시스템 중단이 초래될 수 있을 뿐만 아니라 검증되지 않은 데이터가 크롤링되어 학습이 이루어지는 경우, 생성형 AI 모델 붕괴를 초래함으로써 성능 저하로 이어질 수 있다. 이에 본 논문에서는 인터넷 상에 무분별하게 배포되어 있는 AI 스크래퍼가 오염 공격에 노출되었을 경우, 미칠 수 있는 파급력을 SEIR 전염병 모델을 통해 정량적으로 분석하며, 이를 통해 대규모 시스템에서 단일 감염으로 인한 확산이 큰 파급효과를 불러일으킬 수 있음을 보인다.