한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리) (Annual Conference on Human and Language Technology)

한국정보과학회 언어공학연구회 (Human and Language Technology)
권호 표지

Sparse Attention 모델을 활용한 효율적인 문맥 이해

Improving Contextual Understanding Using Sparse Attention Models

  • 발행 : 2023.10.12
PDF 다운로드
⟨ 이전 논문 다음 논문 ⟩

초록

본 논문은 문맥 이해에서 발생할 수 있는 문제점을 개선하기 위해 Sparse Attention 모델을 적용하였다. 실험 결과, 이 방법은 문맥 손실률을 상당히 줄이며 자연어 처리에 유용하다는 것을 확인하였다. 본 연구는 기계 학습과 자연어 처리분야에서 더 나은 문맥 이해를 위한 새로운 방향을 제시하며, 향후 다양한 모델과 방법론을 탐구하여 문맥 이해를 더욱 향상시킬 계획이다.

키워드