Annual Conference of KIPS (한국정보처리학회:학술대회논문집)

  • 2025.05a
  • /
  • Pages.291-294
  • /
  • 2025
  • /
  • 2005-0011(pISSN)
  • /
  • 2671-7298(eISSN)
Korea Information Processing Society (한국정보처리학회)
권호 표지
DOI QR코드

DOI QR Code

A Study on the TEE-based On-device Inference for Protecting Model Privacy

모델 프라이버시 보호를 위한 TEE 기반 On-device 추론에 대한 연구

  • Seungjin Ha (Dept. of Electrical and Computer Engineering and Inter-University, Semiconductor Research Center(ISRC), Seoul National University) ;
  • Kevin Nam (Dept. of Electrical and Computer Engineering and Inter-University, Semiconductor Research Center(ISRC), Seoul National University) ;
  • Yunheung Paek (Dept. of Electrical and Computer Engineering and Inter-University, Semiconductor Research Center(ISRC), Seoul National University)
  • 하승진 (서울대학교 전기.정보공학부, 서울대학교 반도체 공동연구소) ;
  • 남기빈 (서울대학교 전기.정보공학부, 서울대학교 반도체 공동연구소) ;
  • 백윤흥 (서울대학교 전기.정보공학부, 서울대학교 반도체 공동연구소)
  • Published : 2025.05.29
Download PDF
⟨ Previous Next ⟩

Abstract

클라우드 기반 머신러닝에서 온디바이스 머신러닝(On-device ML)으로 패러다임이 이동함에 따라, 데이터 프라이버시뿐 아니라 모델 자체의 기밀성을 보호하는 모델 프라이버시 문제가 새롭게 부상하고 있다. 온디바이스 환경에서는 모델이 사용자 디바이스에 직접 배포되므로 공격자가 구조와 파라미터에 접근할 수 있는 화이트박스 위협이 발생하며, 이는 모델 도난, 역공학, 학습 데이터 유출 등 심각한 보안 위협으로 이어질 수 있다. 이에 대한 대응으로 최근 TEE(Trusted Execution Environment) 기반 추론 보호 기법들이 활발히 연구되고 있으며, 본 논문은 이를 전체 계층보호, 부분 계층 보호, 난독화 및 경량화 기반 보호로 분류하여 각각의 구조, 보안성, 성능 특성을 비교 분석하며 향후 신뢰 가능한 온디바이스 AI 시스템 구축을 위한 방향성을 제안한다.

Keywords

Acknowledgement

이 논문은 2025년도 BK21 FOUR 정보기술 미래인재 교육연구단에 의하여 지원되었음. 이 논문은 2025년도 정부(과학기술정보통신부)의 재원으로 한국연구재단의 지원을 받아 수행된 연구임(RS-2023-00277326). 이 논문은 2025년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원을 받아 수행된 연구임 (No.2021-0-00528, 하드웨어 중심 신뢰계산기반과 분산 데이터보호박스를 위한 표준 프로토콜 개발). 이 논문은 2025년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원을 받아 수행된 연구임(IITP-2023-RS-2023-00256081). 본 연구는 과학기술정보통신부 및 정보통신기획평가원의 대학ICT연구센터육성지원사업의 연구결과로 수행되었음(IITP-2023-2020-0-01602).

References

  1. Ebel, Austin, Karthik Garimella, and Brandon Reagen. "Orion: A Fully Homomorphic Encryption Framework for Deep Learning." Proceedings of the 30th ACM International Conference on Architectural Support for Programming Languages and Operating Systems, Volume 2. 2025.
  2. Wang, Yongqin, Rachit Rajat, and Murali Annavaram. "Mpc-pipe: An efficient pipeline scheme for semi-honest mpc machine learning." Proceedings of the 29th ACM International Conference on Architectural Support forProgramming Languages and Operating Systems, Volume 4. 2024.
  3. Tramèr, Florian, et al. "Stealing machinelearning models via prediction {APIs}." 25thUSENIX security symposium (USENIXSecurity16). 2016.
  4. Shokri, Reza, et al. "Membership inferenceattacks against machine learning models." 2017IEEE symposium on security and privacy (SP). IEEE, 2017.
  5. Hanzlik, Lucjan, et al. "Mlcapsule: Guardedoffline deployment of machine learning as aservice." Proceedings of the IEEE/CVFconferenceon computer vision and pattern recognition. 2021.
  6. Mo, Fan, et al. "Darknetz: towards modelprivacy at the edge using trusted executionenvironments." Proceedings of the 18thInternational Conference on Mobile Systems, Applications, and Services. 2020.
  7. Shen, Tianxiang, et al. "{SOTER}: Guardingblack-box inference for general neural networksat the edge." 2022 USENIX Annual TechnicalConference (USENIX ATC 22). 2022.
  8. Xiang, Yecheng, et al. "Aegisdnn: Dependableand timely execution of dnn tasks with sgx." 2021IEEE Real-Time Systems Symposium (RTSS). IEEE, 2021.
  9. Zhang, Ziqi, et al. "No privacy left outside: Onthe (in-) security of tee-shielded dnn partition foron-device ml." 2024 IEEE Symposium on Securityand Privacy (SP). IEEE, 2024.
  10. Sun, Zhichuang, et al. "Shadownet: A secureand efficient on-device model inference system forconvolutional neural networks." 2023 IEEESymposium on Security and Privacy (SP). IEEE, 2023.
  11. Zhang, Zheng, et al. "GroupCover: A Secure, Efficient and Scalable Inference Framework forOn-device Model Protection based on TEEs."Forty-first International Conference on MachineLearning. 2024.