A Study on the Optimization and Deployment of the Gemma 3 Model in Edge Computing Environments Using Raspberry Pi 5

엣지 컴퓨터 환경(Raspberry Pi5)에서 Gemma3 모델의 경량화 및 설치에 관한 연구

본 연구는 구글(Google)의 최신 언어 모델인 Gemma3를 Raspberry Pi5와 같은 엣지 컴퓨팅 환경에서 효과적으로 활용하기 위해 모델의 경량화 및 성능 최적화 수행에 관한 연구이다. 본 연구에서는 기존의 Gemma3-4B-IT 모델에 양자화(Quantization) 기법을 적용하여 모델의 크기를 축소하였고, 제한된 리소스 환경에서도 우수한 성능을 유지할 수 있음을 실험결과를 통해 증명하였다. 성능 평가는 Raspberry Pi5 환경에서 경량화를 수행한 제안 모델과 기존 Gemma3-4B 모델을 비교 평가하였으며 성능 평가방식은 ROUGE-1, BLEU, METEOR의 세 가지 정량적 측정지표와 질의에 대한 답변을 통한 정성적인 평가를 진행하였다.