A Study on the Application of AI in the Korean Military and Governance Considering Defense Innovation 4.0

국방혁신 4.0을 고려한 한국군의 AI적용 및 거버넌스 연구

Abstract

The rapid advancement of Artificial Intelligence(AI) is fundamentally transforming the nature of modern warfare. Major military powers such as the United States and China, recognizing AI as a strategic technology, are actively incorporating AI into various domains including autonomous weapons, intelligence processing, and decision-support mechanisms. South Korea, under the Defense Innovation 4.0 policy, is also applying AI to autonomous surveillance, command and control (C2), and unmanned combat systems to enhance operational efficiency and combat readiness. However, the application of AI in the military domain raises ethical, legal, and security concerns, necessitating the establishment of a structured governance framework. This study discusses the necessity of adopting AI in defense and examines global AI governance trends in NATO, the United Nations, and the European Union to ensure that South Korea's AI policy aligns with international norms. Furthermore, the study explores how emerging technologies such as generative AI, federated learning, and edge computing-based AI can be applied in military operations. Based on this analysis, it proposes a comprehensive, ethical, and secure direction for AI governance that not only strengthens national defense capabilities but also ensures responsible AI adoption in accordance with international standards.

인공지능(AI)의 급속한 발전은 현대 전쟁의 양상을 근본적으로 변화시키고 있다. AI를 전략 기술로 인식한 미국과 중국 등 주요 군사 강국들은 자율 무기, 정보 처리, 의사결정 지원 메커니즘 등 다양한 분야에 AI를 적극 도입하고 있다. 한국 또한 국방혁신 4.0 정책에 따라 자율 감시, 지휘통제(C2), 무인 전투체계 등에 AI를 적용하여 작전 효율성과 전투 대비태세를 강화하고 있다. 그러나 군사 분야에서 AI를 활용하는 과정에서는 윤리적, 법적, 보안상의 문제들이 제기되며, 이에 따라 구조화된 거버넌스 체계가 필수적으로 요구된다. 본 연구는 국방 AI 적용의 필요성에 대해 언급하고, NATO, 유엔, 유럽연합(EU)의 글로벌 AI 거버넌스 동향을 고찰하여 한국의 AI 정책이 국제 규범과 정합성을 유지할 수 있도록 정책 방향을 제시한다. 아울러 생성형 AI, 연합학습, 엣지 컴퓨팅 기반 AI 등 최신 기술들이 군사 작전에 어떻게 활용될 수 있는지를 살펴보고, 종합적이고 윤리적이며 안전한 AI 거버넌스 방향을 제시하여 국방 역량을 강화하는 동시에 국제 기준에 부합하는 책임 있는 AI적용 방향을 제시한다.

1. 서론

인공지능(AI) 기술은 최근 군사 분야에서 핵심적인 역할을 차지하고 있으며, 각국 군대는 AI를 미래 전장의 승패를 좌우할 전략 기술로 인식하고 있다[4][11]. 특히, 미국과 중국 등 주요 군사강국은 AI 기반의 지능형 전쟁 개념을 내세워 국방 역량 현대화에 박차를 가하고 있으며, AI 기술을 활용한 유·무인 복합체계와 자율무기 개발 경쟁도 가속화되고 있다[11]. 이에 따라 한국군도 이러한 흐름에 대응하여 AI를 핵심 동력으로 삼아 군사력 발전을 도모하고 있다[9]. 2023년 2월 국방부는 국방혁신 4.0 기본계획을 수립하면서 북핵·미사일 위협 대응능력 강화, 선제적 전략·작전개념 발전, AI 기반 첨단전력 확보, 군 구조 및 교육훈련 혁신, 국방 R&D 및 전력증강체계 재설계의 5대 중점 과제를 발표한 바 있다[9]. 이 중 “AI 기반 첨단전력 확보” 분야에서는 유·무인 복합전투체계 구축과 무인체계 전력화에 집중하고 있는데, 원격조종 → 반자율 → 자율 단계를 거쳐 2028년까지 ‘인지·판단·결심’ 능력을 갖춘 AI 전투체계를 달성하는 것을 목표로 하고 있으며[9][14], 주요 AI 활용분야 및 적용 사례는 <표 1>과 같다.

<표 1> 국방 4.0 주요 AI 활용 분야 및 적용 사례

이렇듯 각 군은 AI 시범부대를 편성하여 작전운용 개념을 검증하고 기술 보완을 거친 뒤 성공 사례를 전군으로 확산시키는 단계적 전력화 전략을 추진 중이다[9]. 또한 국방 연구개발(R&D) 분야에서도 AI를 국방 10대 핵심기술로 선정하고, 멀티모달 정보융합 및 시·공간 전역 상황인지 등의 AI 과제를 2023년부터 2027년까지 중점 추진함으로써 지능형 전장인식 및 의사결정 지원 기술을 확보하고 있다[6]. 이와 함께 AI 시대에 걸맞은 국방 인재 양성도 강조되어, 2022년 부터 5년간 AI 전문인력 1,000명 양성을 목표로 군 장병 대상의 AI·소프트웨어 교육 프로그램을 확대 적용하고 있다[7]. 이처럼 국방혁신 4.0은 기술·인력·조직 전반에 걸쳐 AI 역량을 강화함으로써 과학기술강군으로의 도약을 도모하고 있으며, 민간의 첨단 AI 기술을 신속히 도입하기 위해 무기체계 획득 절차를 개선하고[1] 국방 AI 센터 신설 등 제도적 기반 또한 마련하고 있다[3]. 이러한 변화는 전장에서 인간 피해를 최소화하고 AI가 전투 수행의 중심이 되는 방향으로 발전할 것으로 전망된다.

이에 본 연구는 국방 분야에서의 AI 적용 필요성을 분석하고, AI 무기체계 및 지원체계와 관련한 윤리적·법적 문제를 해결하기 위한 거버넌스 구축 방안을 제시하고자 한다. 특히 국제사회의 AI 거버넌스 동향을 고찰함으로써 한국군의 책임있는 국방 AI 운용을 위한 정책적 시사점을 도출하고자 한다. 본 논문의 구성은 다음과 같다. 2장에서 국방 분야에 AI 기술을 적용해야 하는 필요성에 대해 논의하고, 3장에서 AI 거버넌스 및 국제적 규제에 다룬다. 4장에서는 국제 AI 거버넌스의 정책 동향을 살펴보고 이를 바탕으로 한국군 AI 거버넌스 발전 방향을 제시하며, 마지막으로 결론에서 연구의 시사점과 향후 과제를 도출한다.

2. 국방 AI 적용의 필요성

2.1 자율무기체계와 유·무인 복합전투체계

미래전에서는 인간이 직접 전투에 나서기보다는 AI가 탑재된 자율무기와 무인 전력이 핵심적인 역할을 할 것으로 예상된다. 한국 역시 KF-21 유무인 복합 전투기 개발 구상을 공개한 바 있다[9]. 앞서 언급한 한국항공우주산업(KAI)의 AI 조종사 연구는 이러한 흐름의 일환으로, 향후 전투기 한 대에 AI 기기를 탑재하여 자율적으로 임무를 수행하거나 다수의 무인기를 거느리고 전투를 지휘하는 시나리오를 구상하고 있다. 지상전에서도 AI 탑재 무인전투차량, 자율주행 전차 등의 개발이 진행 중이며, 감시정찰 임무부터 실제 교전까지 사이버-물리가 혼합된 전투가 가능해지고 있다. 이는 AI가 실시간으로 상황을 판단하여 다수의 무인자산을 지휘하고 인간은 이를 감독·승인하는 인간-AI 협업전 개념이다. 이러한 AI를 활용한 무기체계 발전의 특징은 과거 인력 중심의 소수 고가 장비 운용에서 AI 중심의 다수 자산 네트워크화로 패러다임이 전환되고 있다는 점이다. 그 결과 개별 무기의 성능보다 서로 연결된 AI 시스템들의 통합 효과가 전장의 승패를 좌우할 가능성이 커지고, 각국은 초연결 지능형 전장을 구현하기 위해 AI 기술을 C4ISR 체계 전반에 통합할 것으로 예측된다[11].

이러한 전술 체계의 발전은 아직 초기 단계지만 기술 발전 속도를 고려할 때 머지않아 자율형 무기와 AI 전술보조체계가 보편화된 미래 전장이 도래할 것으로 전망된다[11]. 이에 반해 치명적 자율무기(LAWs)의 확산에 대한 국제 규제 논의는 기술 발전 속도를 따라가지 못하고 있다. 중국과 러시아 등 일부 국가는 자율무기 규제에 신중한 입장을 보여 당장 가시적인 합의에 이르지 못하고 있지만, 국제사회 전반의 흐름은 AI의 군사적 사용에 윤리적 한계를 설정하고 국제법 틀 내에서 통제하려는 방향으로 나아가고 있다[12]. 즉, AI 군사 활용에 대한 글로벌 논의는 필요성에도 불구하고 각국의 안보 이익과 견해 차이로 더딘 진전을 보이고 있다[12]. 그러므로 AI 군사활용에 대한 거버넌스 구축의 중요성이 더욱 필요하다.

2.2 AI 기반 감시정찰 및 정보처리

AI는 인간의 인지능력을 보조하거나 대체함으로써 감시정찰 및 정보분석 분야에서도 혁신을 가져오고 있다. 방대한 영상/신호 정보로부터 전장 상황 인지와 표적 식별을 자동화하는 AI 시스템이 개발되어, 과거 인간 분석관이 수행하던 임무를 실시간으로 처리하고 있다. 이러한 AI 알고리즘은 위성영상, 드론 정찰 영상, 각종 센서 데이터 등을 통합 분석하여 전장의 패턴을 식별하고 적 위협을 조기에 경보할 수 있다. 이를 통해 지휘관과 정보요원은 방대한 데이터를 신속하게 이해하고 대응책을 마련할 수 있게 되었으며, 정보처리의 속도와 정확성이 크게 향상되었다[18]. 미국 등은 AI를 정보 수집·분석 체계 전반에 통합해 지능형 정보우세를 추구하고 있으며, 한국군 역시 드론봇 전투체계 구축 등 AI 기반 감시정찰 능력 확보에 주력하고 있다. AI 기술을 활용하면 인간이 간과하기 쉬운 패턴이나 징후를 찾아내어 예측적 분석을 가능케 하고, 나아가 사이버 공간의 방대한 데이터까지도 종합하여 전략적 통찰을 제공할 수 있다[11]. 이처럼 AI를 통한 감시정찰 및 정보처리의 고도화는 미래 지휘통제와 전략 수립의 토대를 강화해줄 것으로 기대된다.

2.3 AI 기반 지휘결심 및 의사결정 지원

AI 기술은 방대한 전장 정보를 실시간으로 수집·분석·예측하여 지휘관의 결심을 도와주는 지휘결심 지원체계에 적용됨으로써, 지휘통제(C2)의 속도와 정확도를 획기적으로 높일 잠재력을 가지고 있다[18]. AI 기반 지휘결심체계는 다양한 데이터를 빠르게 종합 분석하여 전장의 패턴을 식별하고 적의 행동을 예측함으로써 지휘관에게 최적의 대응 방안을 제시할 수 있다[18]. 이를 통해 지휘관은 시간 지연 없이 상황을 파악하고 보다 과학적이고 객관적인 결정을 내릴 수 있게 된다. 실제로 한국군은 이러한 과학적 의사 결정 개념을 구현하기 위해 드론봇 전투체계나 킬 웹(Kill-Web) 개념 등을 연구하고 있다. Kill-Web이란 거미줄처럼 촘촘한 표적감시망과 지휘통제망을 구축한 후, AI 알고리즘이 실시간으로 최적의 타격 수단과 표적을 매칭하여 적의 핵·미사일을 발사 전에 무력화하는 것을 목표로 하는 AI 기반 Kill-Chain 시스템을 의미한다[26]. 이를 통해 AI가 방대한 표적 정보를 분석해 인간에게 타격 결심을 지원하며, 최종 타격 결정은 인간이 승인함으로써 인간의 통제와 AI의 신속한 판단을 결합하고자 한다.

전술 차원에서는 각개 전투원에게 착용된 증강현실(AR) 디바이스에 AI가 실시간으로 전장 상황과 임무 정보를 표시해주거나, 전투 현장에서 AI 전장도우미 앱이 제공되는 등 AR 기반의 전술보조체계 개발이 진행되고 있다. 이러한 AI 지원 시스템은 전술적 의사결정의 효과성을 높여줄 것으로 기대되며, 향후 인간-기계 팀 협동 개념 하에 인간 지휘관과 AI가 각자의 강점을 살려 상호보완적으로 임무를 수행하는 방향으로 발전하고 있다[10]. 결국 이러한 기술들은 다중센서 데이터 융합과 실시간 분석·예측 지원을 통해 지휘관부터 최전방 전투원까지 의사결정의 질을 높이는 데 있으며, 현재 한국군도 관련 기술 개발과 개념 실험을 활발히 진행 중이다[18].

3. 한국군 AI 거버넌스 및 국제적 규제

3.1 AI 군사적 활용에 대한 국제 규제 동향

AI의 군사 적용의 필요성은 타당하나 인간의 최종결심에 따른 윤리문제가 AI 기술 적용을 더디게 한다. 이러한 문제점으로 인해 국제 사회는 윤리적 원칙과 법적 규범을 마련하기 위한 노력을 기울이고 있다. NATO는 2021년 「책임 있는 AI의 군사적 활용(Responsible AI in Military)을 위한 6대 원칙」을 채택하여, 모든 AI 시스템의 법률 준수, 책임성과 책무성, 설명가능성과 추적가능성, 신뢰성, 통제가능성, 편향 최소화 등을 규정하였고[27], 2023년 2월 네덜란드와 대한민국 등이 주도한 REAIM 정상회의에서는 “Blueprint for Action”이라는 실행지침 문서가 채택되어 글로벌 AI 거버넌스 논의의 기반을 마련하였다[12]. 그리고 한국이 주도한 「군사 영역에서의 인공지능과 그 국제 평화 및 안보에 대한 함의」라는 유엔 총회 결의안(A/RES/79/239)이 채택되어, 군사적 AI에 국제법을 적용하고 위험을 최소화하기 위한 노력이 165개국의 지지를 받았다[12]. 이처럼 다자간 협력을 통해 치명적 자율무기 금지나 인간 통제 원칙 등에 대한 국제적 합의를 도출하려는 시도가 이루어지고 있지만, 구체적인 규범 형성에는 아직 논의가 부족하다. 이러한 국제 규범 논의와 별도로, EU를 비롯한 일부 국가들은 “AI ACT” 제정 등 인공지능에 대한 법·제도적 규율을 정비하고 있으며[2][24], 이러한 움직임은 군사 분야 AI 활용에도 간접적인 영향을 미치고 있다.

3.2 한국군 AI 거버넌스 현황 및 과제

한국군도 AI 기술 도입을 가속화하는 한편 이를 책임 있게 관리할 거버넌스 체계 구축을 모색하고 있다. 2024년 4월 국방과학연구소(ADD) 산하에 국방 AI 센터를 창설하여 각 군의 AI 활용을 지원하고 AI 기반 전장인식 및 유·무인 복합체계 개발의 컨트롤 타워 역할을 수행하고 있다[3]. 이는 국방혁신 4.0의 과제로 제시된 국방 AI 법·제도적 기반 마련의 일환으로, 군 내부에 AI 전담 조직을 두어 기술 개발부터 운용까지 체계적으로 관리하려는 노력이다. 즉 한국군은 AI 기술 도입을 가속화하면서도 동시에 안전하고 책임있는 활용을 보장하기 위한 거버넌스 구축을 추진하기 위한 AI 관련 법·제도 정비의 중요성을 인식하여 일부 조치를 시작하고 있지만[8], 현재까지 국방 AI 거버넌스를 총괄하는 상위 정책이나 군사 분야 AI 윤리지침은 초기 단계에 있고 법·제도 정비도 미흡한 수준이다. 한편 범정부 차원에서 AI 기본법 제정 논의가 진행되고 있으나[17], 군사 분야 특수성을 고려한 별도의 원칙 수립은 더디게 이루어지고 있다. 군사 작전의 고유 특성(비상상황, 임무 완수 우선, 안보 이해관계 상충)과 민간 AI 규제의 원칙(신뢰성, 공정성, 투명성)이 상충하며, 이는 군 내 AI 원칙 도입의 제약 요인이 되기 때문이다.

3.3 AI 윤리 및 책임성 확보 방안

AI를 군사적으로 활용하기 위해서는 윤리와 책임성을 확보가 필수적이며, 이를 위해 개발 단계에서의 윤리 설계(Ethics by Design)가 필요하다. NATO의 “책임있는 AI 원칙”을 참고하여 한국군도 법적 준수, 책임성과 책무성, 설명가능성, 신뢰성, 통제가능성, 편향 최소화 등을 기준으로 삼아 AI 시스템도 초기 윤리 검증을 통과하는 절차를 마련해야 할 것이다.

이를 위한 방안으로는 첫째, (그림 1)의 EU AI ACT와 같이, 인간 개입 없이 자율살상 결정을 내릴 수 있는 AI는 수용 불가(unacceptable risk) 영역으로 규정해야 한다[2][24]. 인간의 판단을 거쳐 사용되는 치명적 무기 및 지휘통제체계 AI는 고위험으로, 비살상 군사 지원용 AI는 제한적 위험, 행정·훈련용 AI는 저위험 등으로 등급화하여, AI 활용 목적과 위험 수준별로 차별화된 관리가 필요하다. 이러한 위험등급 분류 기준을 통해, AI 무기체계는 물론 지원체계까지 포함한 국방 AI 전반에 체계적인 위험관리 체계를 구축해야 한다. 둘째, 위험 등급에 따른 차별화된 통제 및 승인 절차를 마련해야 한다. 고위험 이상의 AI 시스템에 대해서는 개발 단계부터 법률·윤리 검토와 최고위급 승인의 절차를 의무화하고, 저위험 시스템은 부처 내 지침으로 관리하는 등의 위험기반 거버넌스가 구축되어야 할 것이다[27]. 이러한 통제 절차를 통해 AI 군사 활용에서 인간의 통제권을 확보하고 책임 소재를 명확히 할 수 있다. 셋째로, 군사 분야에서의 AI 윤리 원칙을 명문화해야 할 것이다. 현재까지 한국군은 민간에서 제정된 「AI 윤리기준」 등을 참고하고 있지만[16], 군사 분야의 특수성을 반영한 국방 AI 윤리강령이나 지침은 부재한 실정이다. 따라서 인간 존엄, 책임성, 투명성 등의 가치를 포함한 AI 윤리 강령을 마련해야 한다는 논의가 진행되고 있지만, 이와 같은 원칙들을 과도하게 강조하거나 의무화할 경우, 실제 전술 상황에서는 오히려 의사결정자의 판단과 작전수행의 신속성, 유연성을 저해할 수 있는 우려도 존재한다. 특히 최근 우크라이나-러시아 전쟁, 이스라엘-하마스 전쟁 등의 사례에서 확인할 수 있듯이, 전장의 불확실성과 긴박한 상황에서 과도한 윤리 규범의 적용은 국익을 위해 수행되는 군사 작전을 소극적으로 만드는 결과로 이어질 가능성도 있다.

(그림 1) EU AI ACT의 위험 기반 접근법[24]

따라서 한국군의 AI 윤리 강령과 거버넌스 체계는 국제 규범 형성에 적극적으로 참여하며 글로벌 기준을 참고하되, 우리 군의 작전 환경과 현실적 조건을 고려하여 지나치게 구체적이고 경직된 규범화보다는 원칙 중심의 유연한 거버넌스로 설정하는 것이 바람직할 것이다. 마지막으로, 민·군 협력 AI 거버넌스를 구축해야 한다. AI 기술은 군이 독자적으로 발전시키기 어려운 만큼, 기업·학계와의 협업 및 데이터 공유가 필수적이다[7]. 이를 위해 개인정보 보호와 군사기밀을 지키면서도 안전하게 데이터와 기술을 교류할 수 있는 체계를 마련해야 한다. 법적 측면에서는 민간의 첨단 AI 기술이 원활하게 국방 분야로 이전되고 활용될 수 있도록 관련 제도 개선과 지원이 필요하다. 이러한 민·군 협력 거버넌스 하에서만 첨단 AI 기술을 군사적으로 신속하고 효율적으로 활용할 수 있을 것이다.

4. 국방혁신을 위한 AI 거버넌스 구현 방향

4.1 AI 위험기반 관리체계 구축

국방 분야에서 AI를 효과적으로 활용하기 위해서는 위험기반 관리체계를 구축하는 것이 기본 전제가 된다. 앞서 분류한 바와 같이, 활용 목적과 잠재 위험 수준에 따라 AI 시스템을 등급화하고 그에 맞는 관리·통제 전략을 수립해야 한다. 특히 국제인도법(IHL)을 심각하게 위반할 결과를 초래할 수 있는 AI는 사용 금지 대상으로 규정하고, 인간의 판단으로 운용되는 치명적 무기 및 지휘통제 AI는 고위험으로 관리하는 등 명확한 기준이 요구된다[2]. 또한 비살상 지원 분야 AI라도 전장에 영향을 미치는 경우에는 위험도 평가를 거쳐야 하며, 행정·훈련용 등 내부 관리용 AI는 신속 도입이 가능하도록 절차를 간소화하는 유연성도 필요하다. 이러한 위험기반 분류와 관리 원칙은 국방부의 AI 전략과 지침에 반영되어야 하며, 관련 부서 및 지휘관들에게까지 명확히 인식시켜 일관된 거버넌스 운용이 이루어지도록 해야 한다.

4.2 AI 신뢰성 확보 및 보안강화 방안

국방 분야에서 AI 기술을 성공적으로 활용하려면 신뢰성과 보안 확보를 전제로 한 신중한 적용이 필요하다. AI 시스템의 의사결정에 대한 검증과 테스트를 철저히 수행하여 결과의 오작동이나 편향으로 인한 위험을 최소화해야 한다[10]. 이를 위해 AI 알고리즘의 개발 단계부터 테스트베드에서의 반복 평가와 레드팀을 통한 취약점 점검 등 검증·평가 제도를 운영할 필요가 있다. 아울러 사이버 보안 측면에서, AI 모델과 훈련 데이터에 대한 공격이나 교란에 대비한 방어 체계를 구축해야 한다. 적대적 공격(Adversarial Attack) 대응 기술이나 AI 모델 경량화·암호화 기법 등을 도입함으로써 적대적인 환경에서도 AI가 안정적으로 작동하도록 만들어야 한다[25]. 이를 위해 관련 연구 투자와 AI 보안 전문인력 양성도 지속하여, AI 무기체계 개발에 시큐어 코딩과 방어 설계 개념을 내재화해야 할 것이다. 이러한 신뢰성·안전성 확보 조치는 AI에 대한 군 내부와 국민의 신뢰를 높여 줄 뿐만 아니라, 국제사회에서 한국군 AI 활용에 대한 정당성 확보에도 기여할 것으로 판단된다.

4.3 최신 AI 기술의 국방 적용

최근 각광받는 생성형 AI(Generative AI)와 연합학습(Federated Learning) 등 최신 AI 기술도 국방 분야에 새로운 기회를 제공하면서 동시에 도전과제를 안겨주고 있다[22]. 생성형 AI는 방대한 데이터 학습을 통해 새로운 텍스트, 이미지 등을 만들어내는 기술로, 정보분석, 사이버 방어, 모의전투 시나리오 생성, 군사 의사결정 지원 등 다양한 분야에 혁신을 가져올 것으로 기대된다[29]. 실제로 OpenAI 등에서 군사적 활용을 염두에 둔 생성 AI 모델 연구가 진행되고 있으며, 미국 공군은 비밀이 아닌 내부망(NIPRNet)에서 대화형 AI를 시범운용하는 등(NIPR GPT) 안전한 상용 모델 활용을 모색하고 있다[32]. 그러므로 한국군도 이러한 흐름에 부응하여 전용 군사용 대규모 AI 모델(LLM) 개발이나 검증된 상용 AI 모델의 군사적 활용 방안을 적극 모색할 필요가 있다.

그리고 온-디바이스 AI(Edge AI) 기술의 발전으로 전투 차량이나 병사 개인 단말기에도 AI를 내장하여 실시간 의사결정을 지원하는 것이 가능해지고 있다[23]. 이는 센서 데이터를 실시간 처리해 목표를 식별하거나 위협을 경보하는 AI를 장비 자체에 탑재함으로써 신속한 대응이 이루어질 수 있다[31]. 이처럼 엣지 컴퓨팅 AI의 활용은 통신이 제한된 전장 환경에서도 AI 능력을 제공하여 작전의 지속성과 자율성을 높여줄 수 있다[25]. 다만 분산된 현장에서 운용되는 AI 특성상, 개별 장비들의 모델 업데이트와 보안을 위한 연합학습 기법 등이 병행되어야 하며[33], 이를 위한 표준과 프로토콜 확립은 아직 과제로 남아 있다. 최신 AI 기술들은 국방 분야에 혁신적 변화를 가져올 잠재력이 있지만, 그 효과를 극대화하기 위해서는 앞서 언급한 신뢰성과 보안 확보를 전제로 한 신중한 적용이 필요하다[10]. 한국군은 이러한 신기술의 발전 흐름을 주시하면서, 제한된 범위의 시범 적용(pilot)과 엄격한 검증 평가를 거쳐 군에 최적화된 활용 전략을 수립해야 할 것이다. 또한 민간의 첨단 기술을 군이 활용하는 과정에서 발생할 수 있는 윤리적·법적 쟁점을 미리 점검하여, 기술 도입과 거버넌스 정립을 동시 병행하는 노력이 요구된다.

5. 결론

본 연구에서는 국방혁신 4.0 추진 속에서 AI 기술의 국방 적용 방안을 살펴보고, 군사적 AI 활용에 따른 위험 요소와 거버넌스 구축 방향을 논의하였다. 그 결과, AI 기반 국방 시스템은 지휘통제부터 무기체계, 지원체계에 이르기까지 광범위한 분야에서 군사작전의 효율성과 효과를 극대화할 잠재력이 있다는 점을 확인하였다. 동시에 자율살상 결정 허용 여부, 인간 통제 범위 등에 관한 AI 무기체계의 윤리적·법적 문제가 해결되지 않으면 오히려 작전의 신뢰성을 저해하고 국제적 비판을 초래할 수 있으므로, 기술 도입에 앞서 제도적 대비가 선행되어야 함을 알 수 있었다. 그러므로 한국군은 AI 군사 활용에 관한 국제 규범 형성에 적극 참여하면서도 자국의 국방 AI 거버넌스를 촘촘히 정립해 나가야 한다. 이를 위해 AI 위험등급별 관리체계를 마련하고 군사분야 특화 AI 윤리원칙을 수립하는 한편, AI 검증·평가제도와 전문 조직을 갖추어 안전하고 책임있는 AI 군사 활용을 보장해야 할 것이다. 특히 국제 협력 측면에서 한국이 주도한 유엔 결의와 REAIM 정상회의의 “Blueprint for Action”은 향후 글로벌 거버넌스의 밑거름이 될 수 있으므로, 이에 부합하는 국내 정책 마련이 시급하다.

향후 연구에서는 NATO 등 국제기구의 AI 윤리지침을 한국군 상황에 맞게 적용하는 방안, AI 탑재 무기의 인증·승인 제도 설계, 그리고 AI 기술 발전에 따른 군사적 이용 제한선(레드라인) 설정 등 한국군 특성에 부합하는 국방 AI 거버넌스 세부 정책을 심층적으로 다룰 필요가 있다. 이를 통해 한국군의 AI 활용이 국제 기준과 조화를 이루면서도 실효성 있게 통제될 수 있도록, 지속적인 연구와 정책 발전이 이루어져야 할 것이다.