A Study on Implementation of a PEFT-RAG Hybrid Local Chatbot Operable via Voice in a Mobile Environment

모바일 환경에서 음성으로 동작하는 PEFT-RAG 혼합형 로컬 챗봇 구현에 관한 연구

본 연구는 휴대폰에서 동작하는 동서울대학교 안내 챗봇(Chatbot) 구현에 관한 것이다. 모바일 환경에서 사용자의 편의성을 극대화하기 위해, 음성 인식(Speech To Text, STT) 및 합성(Text to Speech, TTS) 기능을 탑재하여 음성 인터페이스를 제공하였고, 챗봇 서버(Chatbot Server)의 성능을 향상시키기 위해 동서울대학교 관련 데이터를 활용하여 PEFT(Parameter Efficient Fine-Tuning), RAG(Retrieval-Augmented Generation) 방식과 두 방식을 혼합한 하이브리드(Hybrid) 기법의 성능을 비교 평가하였다. 이후 실험 결과를 바탕으로 혼합형(Hybrid) 기법을 적용한 안내 챗봇 서버를 구축하였고, 클라이언트(Client)의 다양한 모바일 환경을 고려하여 안드로이드 폰(Android Phone)과 아이폰(iPhone)에서 동작하도록 설계 및 구현하였다.