A Study of Defense Against Ciphertext Side-Channel Attacks in Trusted Execution Environments

TEE 환경에서의 Ciphertext Side-Channel 방어 기법 동향 연구

신뢰 실행 환경(Trusted Execution Environments, TEE) 기술은 Intel SGX, AMD SEV, ARM CCA 등을 중심으로 발전하여, 특권 권한을 가진 공격자로부터 민감한 데이터와 코드를 보호하기 위해 널리 사용되고 있다. 그러나 최근 연구들은 TEE 에서 사용되는 결정론적 메모리 암호화 방식이 Ciphertext Side-Channel Attack 이라는 새로운 유형의 취약점을 초래할 수 있음을 보여주었다. 이러한 공격은 암호화된 메모리의 변화를 관찰함으로써 메모리 보호를 직접적으로 침해하지 않고도 민감한 정보를 추론할 수 있다. 본 연구는 Ciphertext Side-Channel Attack 의 근본적인 원리를 체계적으로 분석하고, TEE 환경에서 이를 완화하기 위해 제안된 최신 방어 기법 동향을 조사하였다. 특히, Enclave Management Task 의 물리적 분리, 성능과 보안성을 균형 있게 확보하는 Hybrid Memory Encryption 기법, 그리고 암호문 패턴 예측을 방지하기 위한 Interleaving 기반 데이터 다양화 전략을 중심으로 하드웨어 기반 주요 대응 방식을 심층적으로 분석하였다. 방어 전략별 강점과 한계를 비교 분석한 결과, 현재의 대응 기법들은 각각 특정 조건에서 효과적이나 모든 공격 시나리오를 포괄하기에는 한계가 있음을 확인하였다. 이에 따라, 지속 가능한 TEE 보안을 위해서는 하드웨어와 소프트웨어의 긴밀한 협력을 기반으로 한 Cross-Layer Co-Design 접근, 세분화된 메모리 은닉화 기법과 비결정론적 암호화 모델이 필수적임을 제안한다.