Annual Conference of KIPS (한국정보처리학회:학술대회논문집)

  • 2025.05a
  • /
  • Pages.270-273
  • /
  • 2025
  • /
  • 2005-0011(pISSN)
  • /
  • 2671-7298(eISSN)
Korea Information Processing Society (한국정보처리학회)
권호 표지
DOI QR코드

DOI QR Code

A Study on Protecting On-Device Deep Nerual Networks with Trusted Execution Environments

신뢰실행환경 기반 온디바이스 심층 신경망 보호에 관한 연구

  • Junseung You (Dept. of Electrical and Computer Engineering and Inter-University Semiconductor Research Center (ISRC), Seoul National University) ;
  • Kibong Kang (Dept. of Electrical and Computer Engineering and Inter-University Semiconductor Research Center (ISRC), Seoul National University) ;
  • Yunheung Paek (Dept. of Electrical and Computer Engineering and Inter-University Semiconductor Research Center (ISRC), Seoul National University)
  • 유준승 (서울대학교 전기정보공학과, 반도체공동연구소) ;
  • 강기봉 (서울대학교 전기정보공학과, 반도체공동연구소) ;
  • 백윤흥 (서울대학교 전기정보공학과, 반도체공동연구소)
  • Published : 2025.05.29
Download PDF
⟨ Previous Next ⟩

Abstract

온디바이스(On-device) 딥러닝은 사용자의 프라이버시를 보호할 수 있다는 장점으로 인해 점차 주목받고 있다. 그러나 이러한 접근은 딥러닝 모델이 사용자 디바이스에 전달됨에 따라, 오히려 모델 자체의 프라이버시가 취약해지는 문제를 야기한다. 이에 때라 최근 연구들은 신뢰실행환경(Trusted Execution Environment, TEE)을 활용하여 딥러닝 모델의 프라이버시를 보호하고자 시도하고 있다. 그러나 기존 TEE 기반 딥러닝 모델 보호 기법들이 전제하는 TEE의 위협 모델은 모델 프라이버시를 충분히 보장하지 못하는 한계를 가진다. 본 논문에서는 기존의 TEE 위협 모델을 분석하고, 이를 바탕으로 기존 보호 기법들이 방어하지 못하는 공격 시나리오들을 제시한다. 또한, 이러한 공격에 대응하기 위한 기본적인 방안과 그 한계점에 대해 논의한다.

Keywords

Acknowledgement

이 논문은 2025년도 BK21 FOUR 정보기술 미래인재 교육연구단에 의하여 지원되었으며, 2025년도 정부(과학기술정보통신부)의 재원으로, 정보통신기획평가원의 지원을 받아 수행된 연구(No.2021-0-00528, 하드웨어 중심 신뢰계산기반과 분산데이터보호박스를 위한 표준 프로토콜 개발, No.RS-2024-00406121, 자동차 보안 취약점 기반 위협 분석 시스템 개발(R&D), No.RS-2024-00438729, 익명화된 기밀실행을 이용한 전주기적 데이터 프라이버시 보호 기술 개발, IITP-2023-RS-2023-00256081)이자 한국연구재단의 지원을 받아 수행된 연구(RS-2023-00277326)이고, 반도체 공동연구소 지원의 결과물임을 밝힘.

References

  1. Fan Mo, et. al., "DarkneTZ: Towards Model Privacy at the Edge using Trusted Execution Environments", Proceedings of the 18th International Conference on Mobile Systems, Applications, and Services, 2020
  2. Zhichuang Sun, et. al., "ShadowNet: A Secure and Efficient On-device Model Inference System for Convolutional Nerual Networks", 2023 IEEE Symposium on Security and Privacy (SP)
  3. Myungsuk Moon, et. al., "ASGARD: Protecting On-Device Deep Nerual Networks with Virtualization-Based Trusted Execution Environments", Network and Distributed System Security (NDSS) Symposium 2025
  4. National Institute of Standards and Technology (NIST), "CVE-2022-22063", https://nvd.nis.gov/vuln/detail/CVE-2022-22063"
  5. Yuanyuan Yuan, et. al., "CipherSteal: Stealing Input Data from TEE-Shielded Neural Networks with Ciphertext Side Channels", 2025 IEEE Symposium on Security and Privacy (SP)