AI가 표적을 잘못 읽었을 때 책임은 누구에게 있나…국제인도법은 자율무기를 어떻게 다루나
자율화된 무기체계가 민간인을 전투원으로 오인해 공격했다면 책임은 소프트웨어가 아니라 결국 인간과 국가에 남는다. 국제인도법은 무기의 자율성 여부와 무관하게 공격 주체가 민간인과 군사목표를 구별하고, 과도한 부수 피해를 피하며, 가능한 모든 예방조치를 취할 의무를 진다고 본다. 다만 센서와 소프트웨어가 표적 선택과 공격 개시를 더 많이 떠맡을수록, 누가 어떤 판단을 했는지 추적하기 어려워지고 사전 통제의 실효성을 어떻게 담보할지가 핵심 쟁점으로 떠오른다.
법은 여전히 인간에게 책임을 묻는다
국제인도법의 출발점은 간단하다. 드론이든 유인기든, 원격조종이든 자율 기능이든 무력 사용은 구별·비례성·예방조치 원칙을 따라야 한다. 국제적십자위원회(ICRC)는 2026년 공개한 드론과 국제인도법 문답에서 드론 운용의 경우 운영자와 지휘계통이 모두 이러한 의무를 지며, 거리가 멀다는 이유로 법적 책임이 줄어들지 않는다고 설명했다.
자율무기에서도 기본 구조는 크게 다르지 않다. 문제는 공격 순간의 판단이 사람의 직접 조작이 아니라 센서 입력과 소프트웨어의 표적 프로필 일치 판단에 의해 이뤄질 수 있다는 점이다. ICRC는 자율무기를 사람이 작동을 시작한 뒤 추가 개입 없이 표적을 선택하고 힘을 가하는 체계로 설명하면서, 위법한 피해가 발생했을 때 전통적으로는 발사자와 공격을 명령한 지휘관을 조사하지만 자율무기에서는 왜 민간 버스가 타격됐는지 설명하는 책임 구조가 흐려질 수 있다고 지적한다.
핵심은 ‘드론’이 아니라 표적 선정과 공격 개시의 자동화 수준
러시아·우크라이나 전쟁은 이 구분을 더 중요하게 만든다. 공개 자료를 보면 전장에 대량 투입된 무인기가 모두 완전자율 무기인 것은 아니다. 항법, 재밍 회피, 영상 분석, 자동표적식별(ATR) 같은 기능은 빠르게 확산하고 있지만, 그것이 곧바로 인간 승인 없는 살상 결정으로 이어진다고 단정할 수는 없다.
CSIS가 2025년 3월 발간한 우크라이나 보고서는 현재 기술이 아직 완전 자율 임무를 뒷받침하지 못한다고 전제하면서도, 우크라이나가 정보수집과 표적인식, 자율항법 같은 기능을 빠르게 끌어올리고 있다고 분석했다. 같은 보고서는 우크라이나의 구상에서 인간 입력이 교전 결정에 집중되고 있으며, 현재의 인간-개입 구조에서는 운용자가 자율 기능을 중단하거나 덮어쓸 수 있다고 적었다. 다시 말해 전장 자동화는 확대되고 있지만, 적어도 공개된 분석만 놓고 보면 책임이 집중되는 마지막 발사 판단은 아직 인간 영역에 남겨두려는 흐름이 강하다.
반면 CSIS의 2026년 6월 보고서는 논점을 한 단계 더 밀어 올린다. 이 보고서는 미래의 자율전 핵심을 개별 드론 기체보다 소프트웨어에 두면서, 센서 정보를 융합하고 표적을 고르고 어떤 수단으로 타격할지 배분하는 이른바 ‘킬체인 오케스트레이션’이 실제 자율성의 본체가 될 수 있다고 봤다. 이런 시각을 따르면 책임 문제도 기체 제작사 한 곳이나 현장 조종사 한 명으로 환원되기 어렵다. 표적 데이터셋, 식별 알고리즘, 임무 소프트웨어, 교전규칙, 현장 승인 절차가 함께 검토 대상이 된다.
국제인도법이 요구하는 것은 사후 변명보다 사전 통제
법적으로 가장 분명한 장치는 제네바협약 제1추가의정서 36조의 신무기 심사 의무다. 국가는 새로운 무기나 전투수단, 전쟁수법을 연구·개발·획득·채택할 때 그 사용이 국제법에 비춰 금지되는지 먼저 따져야 한다. 자율무기 논쟁에서 이 조항이 반복해 거론되는 이유는, 오인식이 발생한 뒤 형사책임을 따지는 것만으로는 민간인 보호가 충분하지 않기 때문이다.
따라서 실제 책임 판단은 한 번의 오폭 장면만으로 끝나지 않는다. 해당 체계가 어떤 환경에서 작동하도록 설계됐는지, 민간인이 섞인 복잡한 공간에서 써도 되는지, 통신 두절이나 전자전 상황에서 표적 식별 신뢰도가 어떻게 바뀌는지, 사람이 언제 개입해 공격을 취소할 수 있는지, 훈련 데이터와 시험 절차가 현장 조건을 반영하는지까지 함께 봐야 한다. ICRC가 최근 문서들에서 반복해 강조하는 것도 바로 이 지점이다. 특히 민간인이나 민간 물체가 존재할 수 있는 환경에서 자율무기가 국제인도법상 요구되는 맥락 의존적 판단을 안정적으로 수행할 수 있는지에는 여전히 큰 의문이 남아 있다는 것이다.
그래서 국제사회는 ‘기존 법 적용’과 ‘새 규범 필요’ 사이에 서 있다
현재까지의 국제 논의는 두 층위로 나뉜다. 하나는 기존 국제인도법이 이미 적용된다는 점이다. 자율무기라고 해서 법의 공백지대에 있는 것은 아니라는 뜻이다. 다른 하나는 그 법만으로는 책임성과 인간 통제를 충분히 확보하기 어렵다는 문제의식이다. ICRC는 2025년 말 정리한 입장문에서 예측 불가능한 자율무기와 사람을 직접 겨냥하도록 설계·운용되는 자율무기는 금지하고, 그 밖의 체계도 엄격한 조건 아래 제한해야 한다고 제안했다. 유엔 사무총장과 ICRC 총재도 2026년 8월 새 국제규범을 서둘러 만들자고 다시 촉구했다.
결국 “AI가 민간인을 오인하면 누가 책임지나”라는 질문의 현재 답은 비교적 명확하다. 법적 책임의 1차 주체는 국가와 인간 지휘계통이며, 책임이 소프트웨어로 이전되지는 않는다. 다만 실제 전장에서는 표적 판독, 항법, 공격 경로 설정, 교전 승인 구조가 분산되면서 사실관계 입증과 책임 귀속이 더 어려워진다. 그래서 쟁점은 사후에 누구를 처벌하느냐만이 아니라, 애초에 어떤 자율성을 어디까지 허용하고 어떤 단계에서 인간 승인을 의무화할 것이냐로 옮겨가고 있다. 러시아·우크라이나 전쟁은 그 질문이 더 이상 먼 미래의 논쟁이 아니라 현재형의 제도 설계 과제가 됐다는 점을 보여준다.
자료: International Committee of the Red Cross, Frequently Asked Questions: International humanitarian law and the use of drones in armed conflict(2025); International Committee of the Red Cross, What you need to know about autonomous weapons(2021); International Committee of the Red Cross, Autonomous weapon systems and international humanitarian law: Selected issues – Position paper(2025); ICRC Database, Protocol Additional to the Geneva Conventions of 12 August 1949, Article 36 – New weapons(1977); Center for Strategic and International Studies, Ukraine’s Future Vision and Current Capabilities for Waging AI-Enabled Autonomous Warfare(2025-03-06); Center for Strategic and International Studies, Defining Autonomy: Why Software, Not Drones, Will Decide the Next War(2026-06-10); United Nations Office at Geneva, Renewed Call from the United Nations Secretary-General and the President of the International Committee of the Red Cross to Adopt Rules on Autonomous Weapon Systems(2026-08-25)