Mitigation of I/O Bottlenecks in Next-Generation Unified Memory GPU Environments

차세대 통합 메모리 GPU 환경에서 I/O 병목 완화를 위한 연구

AI의 분산 머신러닝(ML), 딥러닝(DL)에서 I/O 병목은 성능 저하의 주요 원인 중 하나이다. 특히 대규모 데이터셋을 사용하는 훈련 과정에서 데이터 로딩, 전처리, 네트워크 전송, 디스크 I/O가 전체 학습 속도에 큰 영향을 끼친다. 일반적으로 ML/DL의 워크로드는 읽기 의존성과 수많은 작은 파일들을 처리해야하는 특성을 가지고 있다. 이에 본 논문에서는 이를 해결하기 위한 아키텍처의 변화, 방향성과 방안들을 논한다. 특히 차세대 통합 메모리 GPU 환경에서 벤치마크를 통하여 관련 기술에 대한 성능을 측정하고자 한다.