Acknowledgement
본 연구 논문은 문화체육관광부 및 한국콘텐츠진흥원의 출연금으로 수행하고 있는 한국전자통신연구원 실감형 문화유산 체험을 위한 애셋 기반 지능형 큐레이션 및 서비스 운영기술 개발 (R2020040045) 위탁연구과제의 연구결과입니다. 그리고 이 연구는 2021년도 산업통상자원부 및 산업기술평가관리원(KEIT) 연구비 지원에 의한 연구임('20014847')
Annual Conference on Human and Language Technology (한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리))
- 2021.10a
- /
- Pages.482-485
- /
- 2021
- /
- 2005-3053(pISSN)
Directional Predictive Analysis of Pre-trained Language Models in Relation Extraction
관계 추출에서 사전학습 언어모델의 방향성 예측 분석
-
Hur, Yuna
(Department of Computer Science and Engineering, Korea University)
;
- Oh, Dongsuk (Department of Computer Science and Engineering, Korea University) ;
- Kang, Myunghoon (Human-inspired AI Research) ;
- Son, Suhyune (Department of Computer Science and Engineering, Korea University) ;
- So, Aram (Human-inspired AI Research) ;
- Lim, Heuiseok (Department of Computer Science and Engineering, Korea University)
-
허윤아
(고려대학교 컴퓨터학과)
;
- 오동석 (고려대학교 컴퓨터학과) ;
- 강명훈 (Human-inspired AI 연구소) ;
- 손수현 (고려대학교 컴퓨터학과) ;
- 소아람 (Human-inspired AI 연구소) ;
- 임희석 (고려대학교 컴퓨터학과)
- Published : 2021.10.14
Abstract
최근 지식 그래프를 확장하기 위해 많은 연구가 진행되고 있다. 지식 그래프를 확장하기 위해서는 relation을 기준으로 entity의 방향성을 고려하는 것이 매우 중요하다. 지식 그래프를 확장하기 위한 대표적인 연구인 관계 추출은 문장과 2개의 entity가 주어졌을 때 relation을 예측한다. 최근 사전학습 언어모델을 적용하여 관계 추출에서 높은 성능을 보이고 있지만, entity에 대한 방향성을 고려하여 relation을 예측하는지 알 수 없다. 본 논문에서는 관계 추출에서 entity의 방향성을 고려하여 relation을 예측하는지 실험하기 위해 문장 수준의 Adversarial Attack과 단어 수준의 Sequence Labeling을 적용하였다. 또한 관계 추출에서 문장에 대한 이해를 높이기 위해 BERT모델을 적용하여 실험을 진행하였다. 실험 결과 관계 추출에서 entity에 대한 방향성을 고려하지 않음을 확인하였다.