Annual Conference of KIPS (한국정보처리학회:학술대회논문집)

  • 2025.05a
  • /
  • Pages.247-248
  • /
  • 2025
  • /
  • 2005-0011(pISSN)
  • /
  • 2671-7298(eISSN)
Korea Information Processing Society (한국정보처리학회)
권호 표지
DOI QR코드

DOI QR Code

LightWeight CWE Vulnerability Detection Using LoRA-Based CodeBERT

LoRA 기반 경량화 CodeBERT 모델을 활용한 CWE 코드 취약점 탐지

  • Geonmin Kim (Dept. of Software Engineering, Chonnam National University) ;
  • Eunseong Lee (Dept. of Software Engineering, Chonnam National University) ;
  • Minsoo Jeung (Dept. of Software Engineering, Chonnam National University) ;
  • Dayoung Oh (Dept. of Artificial Intelligence, Chonnam National University) ;
  • Seojun Lee (Dept. of Artificial Intelligence, Chonnam National University) ;
  • Hyeonji Jang (Dept. of Artificial Intelligence, Chonnam National University) ;
  • Kwanghoon Choi (Dept. of Information Security Convergence, Chonnam National University) ;
  • Kyungbaek Kim (Dept. of Artificial Intelligence Convergence, Chonnam National University)
  • 김건민 (전남대학교 소프트웨어공학과 ) ;
  • 이은성 (전남대학교 소프트웨어공학과 ) ;
  • 정민수 (전남대학교 소프트웨어공학과 ) ;
  • 오다영 (전남대학교 인공지능학부) ;
  • 이서준 (전남대학교 인공지능학부) ;
  • 장현지 (전남대학교 인공지능학부) ;
  • 최광훈 (전남대학교 정보보안융합학과) ;
  • 김경백 (전남대학교 인공지능융합학과)
  • Published : 2025.05.29
Download PDF
⟨ Previous Next ⟩

Abstract

딥러닝 기반의 코드 취약점 탐지 모델은 최근 소프트웨어 보안 자동화의 핵심으로 부상하였다. 그러나 이는 사전학습 언어 모델을 기반으로 하여 방대한 파라미터 수와 미세 조정 과정에서 자원 소모가 많다는 한계를 지닌다. 이에 본 연구는 CodeBERT와 LoRA를 결합하여 경량화된 멀티라벨 취약점 탐지 모델을 제안한다. 여러 CWE 유형에 대하여 LoRA가 제공하는 학습 효율성과 일반화 가능성을 실증하여 학습 파라미터 수와 자원 소모를 대폭 감소시키는 경량화 기법을 제안한다.

Keywords

Acknowledgement

본 연구는 한국인터넷진흥원(KISA)-정보보안 특성화대학 지원사업의 지원을 받아 수행된 연구임(34%). 이 논문은 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원-지역지능화혁신인재양성사업의 지원을 받아 수행된 연구임(IITP-2025-RS-2022-00156287, 33%). 본 연구는 과학기술정보통신부 및 정보통신기획평가원의 인공지능융합혁신인재양성사업 연구 결과로 수행되었음(IITP-2023-RS-2023-00256629, 33%)

References

  1. M. Howard, "Improving Software Security byEliminating the CWE Top 25 Vulnerabilities," in IEEESecurity & Privacy, vol. 7, no. 3, pp. 68-71, May-June2009
  2. K. Zhao, S. Duan, G. Qiu, J. Zhai, M. Li and L. Liu, "Python Source Code Vulnerability Detection Basedon CodeBERT Language Model," 2024 7th International Conference on Algorithms, Computing and Artificial Intelligence (ACAI), Guangzhou, China, 2024, pp. 1-6
  3. Hu, Edward J., et al. "Lora: Low-rankadaptation of large language models."ICLR1.2(2022)
  4. D. K. Gajulamandyam et al., "Domain SpecificFinetuning of LLMs Using PEFT Techniques," 2025IEEE 15th Annual Computing and CommunicationWorkshop and Conference (CCWC), Las Vegas, NV, USA, 2025, pp. 00484-00490