AI가 드론을 조종하나, 목표를 고르나…우크라이나 전장이 보여준 인간 개입의 경계
우크라이나 전장에서 확산한 AI 드론을 두고 가장 자주 생기는 혼동은 이것이다. 기계가 스스로 날아간다고 해서 곧바로 스스로 죽일 대상을 고른다는 뜻은 아니다. 현재 공개적으로 검증된 자료를 종합하면, 전장에 널리 퍼진 것은 자동표적인식, 자율항법, 전파방해 회피, 영상분석, 다수 기체 운용 보조 같은 부분 자율화이며, 사람의 개입이 가장 강하게 남아 있는 지점은 표적을 누구로 볼지, 실제 공격을 허용할지, 임무를 어디까지 확장할지에 관한 결정이다.
이 구분이 중요한 이유는 전쟁 보도에서 ‘AI 드론’과 ‘자율살상무기’가 자주 같은 말처럼 쓰이기 때문이다. 그러나 무기체계의 자율성은 보통 비행, 탐지, 추적, 식별, 표적 선정, 교전 승인, 공격 수행을 나눠서 봐야 한다. 우크라이나와 러시아가 전장에서 빠르게 발전시킨 것도 이 전체 사슬의 완전한 자동화라기보다, 일부 기능을 소프트웨어로 떼어내 먼저 자동화한 경우가 많다.
드론의 자율성은 비행 기능과 살상 결정이 다르다
미 국방부의 2023년 지침은 구분의 기준을 비교적 분명하게 제시한다. 사람의 선택으로 정해진 개별 표적이나 특정 표적군만 공격하도록 설계된 체계는 ‘반자율’ 범주에 놓인다. 반면 일단 작동한 뒤 운용자의 추가 개입 없이 표적을 선택하고 교전할 수 있으면 ‘자율 무기체계’로 본다. 또 이 가운데 운용자가 개입해 교전을 중단할 수 있도록 만든 형태는 ‘운용자 감독형’으로 따로 나눈다.
이 정의를 적용하면, 오늘날 전장에서 흔한 드론 상당수는 통신이 끊겨도 귀환하거나 마지막 구간을 스스로 찾아가고, 카메라 영상에서 전차나 포병 진지를 더 빨리 찾아낼 수는 있어도, 그 자체만으로 완전자율 무기로 분류되지는 않는다. 핵심은 소프트웨어가 어느 단계까지 맡느냐보다, 사람 없이도 표적 선택과 교전이 이어지느냐에 있다.
국제적십자위원회도 같은 쟁점을 다른 언어로 짚는다. 이 기구는 자율무기체계를 사람의 추가 개입 없이 센서 정보와 일반화된 표적 프로필에 따라 표적에 힘을 가하는 체계로 설명하면서, 특히 인간이 구체적 표적과 공격 시점·장소를 더는 선택하지 못하는 상태를 문제의 중심에 놓는다. 결국 논쟁의 본질은 ‘AI를 썼는가’가 아니라 ‘누가 언제 무엇을 공격하기로 결정하는가’에 가깝다.
우크라이나 전장에선 무엇이 이미 자동화됐나
CSIS가 2025년 발표한 우크라이나 분석은 현재 기술 수준을 비교적 냉정하게 정리한다. 그에 따르면 우크라이나가 실제로 빠르게 진전시킨 분야는 정보·감시·정찰, 자동표적인식, 자율항법이다. AI는 드론 영상 판독, 목표 후보 인식, 추적 보조, GPS 교란 환경에서의 마지막 구간 항법, 통신과 전자전 대응 같은 과제에서 의미 있는 역할을 하고 있지만, 표적을 찾고 고르고 타격하는 전 과정을 하나의 기체가 독립적으로 끝내는 수준은 아직 아니라는 것이다.
이 때문에 ‘사람은 전장에서 빠지고 드론만 싸운다’는 인상과 실제 운용 사이에는 간극이 있다. 공개 자료를 보면 우크라이나와 러시아의 드론 타격 임무는 여전히 조종, 센서 감시, 탄두 준비, 교전 승인 같은 역할이 나뉘어 있으며, 한 대의 타격형 FPV 드론에도 여러 명이 관여하는 사례가 제시된다. AI는 이 과정에서 사람을 완전히 없애기보다, 전파방해와 정보 과부하 때문에 사람이 감당하기 어려운 구간을 메우는 방식으로 먼저 들어왔다고 보는 편이 정확하다.
실제 전장에서 널리 보급된 기능도 이런 방향과 맞닿아 있다. 자동 이착륙, 표적 후보 강조, 마지막 구간 자율 유도, 주파수 전환, GPS 거부 환경에서의 항법 보조는 드론의 생존성과 명중률을 높일 수 있다. 그러나 이런 기능이 곧바로 독립적인 공격 결정으로 이어지는 것은 아니다. 자동 인식은 ‘무엇처럼 보이는가’를 말해주고, 자율 항법은 ‘어떻게 갈 것인가’를 해결하지만, ‘실제로 때릴 것인가’는 별도의 단계이기 때문이다.
현재 인간은 어디에 개입하나
공개 검증된 사례를 기준으로 하면 인간 개입은 적어도 네 지점에 남아 있다. 첫째는 임무 설계다. 어느 지역을 감시할지, 어느 표적군을 우선할지, 어느 정도의 위험과 탄약을 허용할지는 사람이 정한다. 둘째는 표적 해석이다. AI가 화면 속 물체를 전차나 차량으로 분류해도, 그것이 공격 가능한 군사목표인지 판단하는 책임은 여전히 인간 지휘계통에 있다.
셋째는 교전 승인과 취소다. 우크라이나 관련 CSIS 자료는 인간의 감독이 특히 engagement decision, 즉 실제 공격 결정에서 핵심이라고 반복해 적는다. 이는 전장 윤리 문제만이 아니라 오인식, 전자전 교란, 위장 목표물, 민간 물체 혼재 같은 현실적 위험 때문이다. 넷째는 사후 평가와 학습이다. 어떤 알고리즘이 어느 조건에서 실패했는지, 전자전 환경에서 어떤 항법이 무너졌는지, 어떤 모델이 오탐을 많이 냈는지는 사람이 분석해 다음 배치와 전술에 반영한다.
이 구조를 뒤집어 말하면, 현재 AI는 사람을 ‘결정의 주체’에서 ‘감독자’로 완전히 밀어내지 못했다. 오히려 사람의 역할은 조종 그 자체보다, 임무 설정과 승인 기준 관리, 실패 모드 통제, 알고리즘 신뢰성 판단 쪽으로 이동하고 있다. 그래서 인간이 여전히 개입하느냐는 질문에는 ‘예’라고 답해야 하지만, 그 개입의 위치가 조이스틱 조작에서 상위 통제와 승인으로 옮겨가고 있다고 보는 편이 더 정확하다.
러시아 사례가 보여준 것은 ‘완전자율의 보편화’가 아니라 ‘기능별 독립성의 확대’
2026년 CSIS의 러시아 분석도 같은 결론으로 이어진다. 보고서는 러시아가 거대한 단일 인공지능으로 전장을 통째로 자동화했다기보다, 좁지만 임무상 중요한 기능을 무인체계와 전장 소프트웨어 안에 넣어 전술적 독립성을 키우는 방향으로 움직인다고 본다. 전파방해와 GPS 부재 속에서도 항법·탐지·타격의 일부를 유지하도록 만드는 것이 먼저였고, 이것이 전장 효과를 낳았다는 평가다.
같은 해 CSIS의 다른 분석은 러시아가 공개적으로 알려진 사례 가운데 완전한 말단 자율성에 가장 근접한 쪽으로 묘사되지만, 동시에 우크라이나 전장 전체를 놓고 보면 자동표적인식과 항법 보조 같은 더 좁은 기능이 이미 일상화돼 있다고 지적한다. 이는 중요한 구분이다. 일부 실험적이거나 제한적 사례가 존재할 수 있다는 말과, 완전자율 무기가 전장 표준이 됐다는 말은 전혀 다르기 때문이다.
따라서 현재 단계에서 더 정확한 표현은 ‘완전한 자율살상이 일반화됐다’가 아니라 ‘부분 자율 기능이 빠르게 확산했고, 일부 체계는 인간 감독의 범위를 더 좁히는 방향으로 이동 중’이라는 쪽에 가깝다. 기술 변화의 속도는 빠르지만, 공개 검증 자료만 놓고 보면 전장 전반이 이미 인간 없는 표적 선정 체계로 넘어갔다고 단정할 단계는 아니다.
전장에서 혼동되는 세 개념: 자동표적인식, 자율항법, 독립 공격결정
첫째, 자동표적인식은 카메라·열상·센서 데이터를 바탕으로 표적 후보를 찾아내거나 분류하는 기능이다. 이것은 ‘보는 눈’에 가깝다. 둘째, 자율항법은 통신 두절이나 GPS 교란 상황에서도 경로를 계산하고 마지막 구간을 찾아가는 기능이다. 이것은 ‘가는 법’에 가깝다. 셋째, 독립 공격결정은 어떤 개체를 실제 표적으로 선택하고 무력을 적용할지 스스로 정하는 기능이다. 이것은 ‘쏠지 말지 결정하는 권한’에 해당한다.
문제는 세 기능이 전장 영상과 홍보 문구에서 자주 한데 묶인다는 점이다. 드론이 스스로 비행하고 표적처럼 보이는 물체를 화면에 표시하면, 바깥에서는 쉽게 ‘AI가 목표를 골랐다’고 받아들이기 쉽다. 그러나 현재 공개 자료가 뒷받침하는 주류 현실은 앞의 두 기능이 빠르게 확산한 것이며, 세 번째 기능은 제한적·논쟁적이거나 검증이 까다로운 영역에 머문다.
이 때문에 앞으로 전장 기술을 읽을 때는 ‘AI 탑재’라는 표현보다 더 구체적인 질문이 필요하다. 드론이 스스로 날아가는가, 표적 후보를 추천하는가, 사람의 승인 없이 교전을 시작하는가, 사람이 중간에 개입해 중단할 수 있는가를 따로 물어야 한다. 같은 ‘자율’이라는 단어라도 어느 단계의 자율인지에 따라 법적·윤리적·군사적 의미가 달라지기 때문이다.
결국 전장의 승부처는 기체보다 소프트웨어, 그러나 책임의 기준은 여전히 인간
최근 분석들이 공통으로 강조하는 점은 드론 기체 자체보다 소프트웨어 계층의 중요성이다. 대량의 무인기를 띄우는 전장에서는 개별 비행보다 센서 융합, 공역 조정, 표적 우선순위화, 전자전 대응, 다수 기체 배분을 해내는 소프트웨어가 핵심 병목이 된다. 그만큼 인간의 역할도 개별 조종에서 체계 감독과 교전 통제로 재배치되고 있다.
다만 이것이 인간 책임의 약화를 뜻하지는 않는다. 오히려 사람은 덜 조종하고 더 많이 승인하며, 덜 수동적으로 감시하고 더 많이 실패 조건을 설계해야 하는 쪽으로 이동한다. 현재 기술에서 인간은 사라진 것이 아니라 위치를 바꾸고 있다. 우크라이나 전장이 보여준 것은 AI가 드론을 더 멀리, 더 빠르게, 더 끈질기게 움직이게 만들었다는 사실이지, 표적 선정과 공격 책임이 이미 기계로 완전히 넘어갔다는 결론은 아니다.
자료: Center for Strategic and International Studies, Defining Autonomy: Why Software, Not Drones, Will Decide the Next War(2026); Center for Strategic and International Studies, Ukraine’s Future Vision and Current Capabilities for Waging AI-Enabled Autonomous Warfare(2025-03-06); Center for Strategic and International Studies, How Russia Is Building a Sovereign Drone Ecosystem for AI-Driven Autonomy(2026-04-13); U.S. Department of Defense, DoD Directive 3000.09: Autonomy in Weapon Systems(2023-01-25); International Committee of the Red Cross, ICRC position on autonomous weapon systems(2021-05-12)