드론의 AI가 민간인을 오인하면 누가 책임지나…국제인도법은 여전히 국가와 인간을 본다
자율화된 무기가 민간인을 전투원으로 잘못 식별해 공격했다면, 현재의 국제인도법은 책임을 기계에 돌리지 않는다. 핵심은 무기가 얼마나 ‘똑똑한가’가 아니라, 누가 어떤 조건에서 그 무기를 설계·심사·배치·가동했는지에 있다. 국제 논의의 공통분모는 자율성이 높아져도 국가 책임과 인간의 지휘·통제 책임은 남아야 하며, 표적 식별과 공격 판단을 둘러싼 법적 의무도 사라지지 않는다는 점이다.
이 쟁점은 우크라이나 전장을 거치며 더 현실적인 문제가 됐다. 전장에서는 자동표적인식, 항법 보조, 다수 무인기 운용을 묶는 소프트웨어 등 좁은 의미의 AI 기능이 빠르게 확산하고 있다. 다만 무인기 운용 전반이 곧바로 완전자율무기를 뜻하는 것은 아니다. 최근 보고서들은 논쟁의 중심이 드론 기체 자체보다 센서 정보를 결합하고, 표적을 추려내고, 임무를 배분하는 소프트웨어 계층으로 옮겨가고 있다고 본다.
국제법이 묻는 첫 질문은 ‘누가 버튼을 눌렀나’보다 ‘누가 공격을 가능하게 했나’
국제인도법의 출발점은 무기 종류와 무관하다. 교전 당사자는 언제나 민간인과 전투원을 구별해야 하고, 민간인 피해가 예상 이익에 비해 과도한 공격은 해서는 안 되며, 가능한 모든 예방조치를 취해야 한다. 자율무기라고 해서 이 원칙이 완화되지는 않는다.
그래서 오인 공격이 발생하면 법적 평가는 사후 결과만이 아니라 그 이전의 과정으로 거슬러 올라간다. 공격에 앞서 해당 체계가 군사목표만 식별하도록 설계됐는지, 운용 구역과 시간·표적 유형이 제한됐는지, 민간인이 섞일 가능성이 큰 환경에서 사용이 허용됐는지, 공격 도중 취소·중지 개입이 가능한지, 최신 정보에 따라 위험을 다시 평가했는지가 모두 검토 대상이 된다.
국제연합 특정재래식무기금지협약 체계 아래 진행된 정부전문가그룹 문서도 같은 방향을 제시한다. 여기서는 무기체계 사용에 관한 인간의 책임은 유지돼야 하고, 책임을 기계로 이전할 수 없으며, 개발·배치·사용 전 단계에서 책임성과 인간의 지휘·통제가 확보돼야 한다는 원칙을 재확인했다. 즉 AI가 표적을 골랐다는 사실만으로 인간과 국가의 책임 사슬이 끊어지지 않는다는 뜻이다.
민간인 오인 사례에서 책임 주체는 보통 세 층위로 나뉜다
첫째는 국가다. 무기를 사용한 주체가 국가 군대라면, 위법한 공격에 대한 국제법상 책임은 기본적으로 국가에 귀속된다. 정부전문가그룹 문서에서도 국가의 국제위법행위는 자율무기 관련 사안이라 해도 여전히 국가 책임을 수반한다고 정리한다.
둘째는 지휘관과 운용자다. 국제인도법상 표적 검증, 비례성 판단, 공격 중지 여부는 원칙적으로 인간의 판단 의무다. 따라서 지휘관이 민간인 밀집 지역에서 예측 불가능한 체계를 승인했거나, 운용자가 시스템 한계를 알고도 필요한 감독 없이 사용했다면 개인 책임 문제가 제기될 수 있다. 책임은 ‘발사 순간의 직접 조작’에만 한정되지 않고, 어떤 상황에서 어떤 체계를 쓰기로 결정했는지까지 넓게 본다.
셋째는 개발·시험·심사 단계다. 1977년 제1추가의정서 36조는 새로운 무기나 전투수단을 연구·개발·획득·채택할 때 그 사용이 국제법에 비춰 금지되는지 국가가 사전에 판단하도록 요구한다. 따라서 오인 공격이 반복되거나 예측 가능한 방식으로 발생했다면, 배치 이전의 법적 검토와 시험평가가 충분했는지도 책임 판단의 핵심으로 올라온다. 국제적 논의에서 ‘책임의 공백’보다 먼저 거론되는 것이 무기심사와 운용 조건 설정의 실패인 이유다.
문제는 책임이 사라지는 것이 아니라, 입증이 더 어려워진다는 점
이 분야에서 오래 지적돼 온 쟁점은 ‘책임 공백’이다. 국제적십자위원회가 2014년 전문가 회의에서 정리했듯, 자율무기의 행동이 예측 불가능하거나 오류와 오작동, 복잡한 개발 사슬이 얽히면 누가 전쟁범죄의 고의나 인식을 가졌는지 특정하기가 어려워질 수 있다. 특히 소프트웨어 개발자, 통합업체, 현장 운용부대, 상급 지휘부가 역할을 나눠 가진 체계에서는 형사책임 입증 문턱이 높아진다.
그러나 이것이 곧 ‘아무도 책임지지 않는다’는 뜻은 아니다. 오히려 최근 국제 논의는 책임 공백을 인정하기보다, 공백이 생기지 않도록 인간의 통제 지점을 설계 단계부터 남겨두라는 쪽으로 이동하고 있다. 운용 전 승인, 표적 유형 제한, 작전 시간과 지역 제한, 실시간 감독, 비상 중지 기능, 사후 기록 보존 같은 장치가 필요한 이유도 여기에 있다.
국제적십자위원회는 2025년 말 정리한 입장문에서 자율무기 사용이 구별·비례성·예방조치 원칙에 어떤 도전을 주는지 상세히 설명했다. 특히 사람을 겨냥하는 공격에서는 민간인 여부, 직접적 적대행위 참가 여부, 항복·부상 상태 같은 맥락 판단이 필요하며, 이런 평가는 수학식처럼 단순 환원되기 어렵다고 본다. 도시전처럼 민간인과 군사목표가 뒤섞인 환경에서는 이런 한계가 더 커진다.
우크라이나 전장이 보여준 것은 ‘완전자율의 일반화’보다 ‘판단 소프트웨어의 전진’
우크라이나 전장을 다룬 최근 CSIS 분석은 이 문제를 더 구체적으로 보여준다. 보고서들은 현재 전장에서 좁은 기능의 AI가 이미 일상화되고 있으며, 향후 결정적 변화는 기체보다 소프트웨어에서 일어날 가능성이 크다고 본다. 센서 융합, 공역 조정, 표적 추천, 임무 배분, 공격 수단 선택 같은 기능이 하나의 조율 계층으로 묶이면, 인간이 최종 승인만 남기더라도 실제 표적 판단의 상당 부분이 자동화될 수 있다는 것이다.
다만 이 분석은 동시에 신중한 구분도 요구한다. 우크라이나 전쟁에서 사용되는 모든 무인기가 자율무기인 것은 아니며, 자동화와 자율성은 같은 말이 아니다. 원격조종, 항법 보조, 자동추적, 자동표적인식, 표적 선택과 공격의 무인 결합은 법적 위험과 책임 구조가 서로 다르다.
그래서 실무적으로 더 중요한 질문은 ‘드론인가 아닌가’가 아니라 ‘인간 승인은 어느 단계에 남아 있는가’다. 사람이 개별 표적을 확인하고 공격을 중단할 수 있는 구조인지, 아니면 사람이 임무 목표와 구역만 넣고 이후의 표적 선택과 타격은 체계가 자체 수행하는지에 따라 책임 논의의 무게중심도 달라진다. 후자일수록 무기심사, 사용 제한, 지휘통제 기록의 중요성은 더 커진다.
현행법의 결론은 명확하지만, 규범은 아직 완성되지 않았다
현재까지의 법적 결론만 놓고 보면 답은 비교적 분명하다. 자율화된 무기가 민간인을 오인해도 법은 기계를 책임 주체로 보지 않는다. 책임은 국가에 남고, 공격을 계획·승인·집행한 인간의 의무도 유지된다. 다만 어떤 인간에게 어떤 수준의 법적 책임을 물을 수 있는지는 체계의 예측 가능성, 시험평가, 기록 보존, 지휘통제 구조에 따라 크게 달라진다.
문제는 바로 그 지점에서 현행 규범이 충분한가 하는 것이다. 국제적십자위원회는 예측 불가능한 자율무기와 사람을 직접 겨냥하는 자율무기에 대한 새로운 구속력 있는 국제 규범을 요구해 왔고, 2026년 11월 특정재래식무기금지협약 검토회의를 앞두고도 논의를 협상 단계로 옮겨야 한다고 촉구하고 있다. 반면 일부 국가는 기존 국제인도법과 무기심사 체계를 통해 충분히 관리할 수 있다는 입장을 유지한다.
따라서 지금의 쟁점은 ‘AI가 책임을 지나’가 아니다. 더 정확한 질문은 ‘AI가 개입한 공격에서도 국가와 인간의 책임을 실제로 추적할 수 있도록 어떤 설계·심사·운용 규칙을 강제할 것인가’다. 국제인도법은 이미 책임의 방향을 제시하고 있지만, 전장의 소프트웨어가 표적 판단 깊숙이 들어오는 속도에 비해 그 규칙을 구체화하는 작업은 아직 끝나지 않았다.
자료: 국제적십자위원회, Autonomous Weapon Systems and International Humanitarian Law: Selected Issues(2026); 국제적십자위원회, Protocol Additional to the Geneva Conventions of 12 August 1949, and Relating to the Protection of Victims of International Armed Conflicts (Protocol I), Article 36(1977); 특정재래식무기금지협약 정부전문가그룹, CCW/GGE.1/2025/WP.7(2025); 국제적십자위원회, Report of the ICRC Expert Meeting on Autonomous Weapon Systems: Technical, Military, Legal and Humanitarian Aspects(2014); 전략국제문제연구소, Defining Autonomy: Why Software, Not Drones, Will Decide the Next War(2026); 전략국제문제연구소, How Russia Is Building a Sovereign Drone Ecosystem for AI-Driven Autonomy(2026)