DOI QR코드

DOI QR Code

Moral Judgment of LLM Using Korean Datasets and Eastern Ethical Principles

한국어 동양 윤리 원칙을 활용한 LLM의 도덕적 판단 연구

  • Junho-Yoo (Dept. of Computer Science, Incheon National University) ;
  • Youhyun Shin (Dept. of Computer Science, Incheon National University)
  • 유준호 (인천대학교 컴퓨터공학부 ) ;
  • 신유현 (인천대학교 컴퓨터공학과)
  • Published : 2025.05.29

Abstract

대규모 언어 모델(LLM)의 발전으로 인간의 사고를 대체할 가능성이 커지며, 도덕적 판단에 대한 관심도 증가하고 있다. 그러나 영어 중심으로 학습된 LLM의 특성상, 한국어의 적용과 동양 윤리 원칙에 대한 연구는 미비한 상황이다. 본 연구에서는 LLM의 도덕적 편향을 분석하고, 저자원·고자원 언어 환경 및 동·서양 윤리 정책 적용 시 편향 변화 여부를 실험적으로 검증하였다. 이를 통해 LLM의 도덕적 판단이 언어·문화적 요인에 따라 어떻게 영향을 받는지를 규명하고자 한다. 실험 결과, LLM의 도덕적 판단이 언어적·문화적 맥락에 따라 달라질 수 있음을 확인하였으며, 이러한 연구 결과는 AI 윤리 가이드라인 수립과 콘텐츠 검열 정책 개선에 기여할 수 있을 것으로 기대된다.

Keywords

Acknowledgement

이 논문은 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원-학·석사연계ICT핵심인재양성 지원을 받아 수행된 연구임(IITP-2025-RS-2023-00260175)

References

  1. Agarwal, U. et al. (2024). Ethical Reasoning and Moral Value Alignment of LLMs Depend on the Language We Prompt Them in. LREC-COLING 2024, 6330-6340.
  2. Rao, A. et al. (2023). Ethical Reasoning over Moral Alignment: A Case and Framework for In-Context Ethical Policies in LLMs. Findings of ACL: EMNLP 2023, 13370-13388.
  3. Marraffini, G. F. G. et al. (2024). The Greatest GoodBenchmark: Measuring LLMs' Alignment with UtilitarianMoral Dilemmas. EMNLP 2024, 21950–21959.