SERIES · PART 3 OF 3
《엔더스 게임》과 미래 지휘관 교육
**국군사관학교는 무엇을 훈련해야 하는가**
— 대전 통합 국군사관학교와 AI·무인전쟁의 시대· · ·
※ 이 글은 《엔더스 게임》의 결말에 관한 핵심 내용을 포함합니다.
Ⅰ. 《엔더스 게임》의 마지막 모의전쟁은 실제였다
엔더는 전쟁에서 이겼다. 그러나 자신이 전쟁하고 있다는 사실조차 알지 못했다.
《엔더스 게임》에서 엔더와 어린 동료들은 마지막 전투를 졸업을 위한 시뮬레이션이라고 믿는다. 압도적인 적의 전력 앞에서 엔더는 함대 대부분을 희생시키고 적의 모행성을 파괴한다. 그에게는 교관들이 다시는 같은 시험을 요구하지 못하도록 모든 것을 끝내는 가장 과감한 해답이었지만, 지휘부에는 실제 전쟁을 끝낸 결정이었다.[1]
교관과 지휘부가 환호한 뒤에야 엔더는 화면 속 함대가 실제 병력이었고 파괴된 행성이 현실의 세계였다는 사실을 알게 된다. 그는 전투의 방법을 선택했지만 실제 병사와 실제 종족의 희생을 선택한다는 사실에는 동의한 적이 없었다. 자신이 무엇을 결정하는지 알지 못했으므로 의심하고 보류하거나 거부하고 중단할 기회도 갖지 못했다.
지휘부는 승리를 얻기 위해 엔더에게 현실과 거부권, 책임의 무게를 숨겼다. 현실을 알면 그가 머뭇거릴 수 있다고 보았고, 가장 자유롭고 과감한 판단을 끌어내기 위해 판단의 결과를 감춘 것이다. 그러나 책임의 무게를 제거해 얻은 과감함을 온전한 지휘라고 부를 수 있을까. 결과의 현실을 알지 못한 채 내린 결정까지 그 사람의 책임이라고 할 수 있을까.
엔더에게 없었던 것은 단순한 정보가 아니었다. 현실을 알 권리, 의심할 시간, 거부하거나 중단할 권한, 그리고 자신의 결정이 무엇을 초래하는지 이해한 상태에서 책임을 받아들일 기회가 없었다.
《엔더스 게임》의 가장 무서운 장면은 행성이 파괴되는 순간이 아니다. 화면이 현실이었음을 뒤늦게 알게 되는 순간이다.
Ⅱ. 화면은 전쟁과 인간 사이의 거리를 어떻게 바꾸는가
오늘날의 드론 조종사와 지휘관은 엔더와 다르다. 자신이 실제 임무를 수행하고 있다는 사실을 알고 있으며 작품 속 엔더처럼 전쟁 자체에 속고 있는 것은 아니다. 그러므로 《엔더스 게임》과 현대 원격전을 같은 상황이라고 말해서는 안 된다. 다만 화면이 전쟁을 보여주는 방식에는 검토해야 할 구조적 유사성이 있다.
전장은 센서영상과 좌표, 표적 프로파일과 피해추정치로 변환된다. AI가 보조하는 체계는 사람과 물체를 확률·분류값·우선순위로 표시하고 공격의 결과를 지도와 보고서 속 숫자로 정리한다. 결정자와 피해자 사이의 물리적·감각적 거리가 커질수록 실제 죽음이 하나의 아이콘이나 처리해야 할 표적으로 보일 가능성도 커진다.
이 글은 화면과 수치가 결정의 결과를 실제 인간의 삶에서 분리해 보이게 만드는 위험을 ‘도덕적 거리’라는 표현으로 다룬다. 이는 원격성이 언제나 무감각을 일으킨다는 경험적 인과법칙이 아니라, 화면이 인간의 판단에 개입하는 방식을 살펴보기 위한 분석개념이다.
거리와 화면이 언제나 비인간적인 판단을 만드는 것은 아니다. 전장의 공포와 분노에 즉시 휩쓸리지 않고 더 많은 정보를 비교하게 할 수 있으며, 아군의 직접 노출을 줄이고 하나의 표적을 더 오래 관찰할 기회를 제공할 수도 있다. 새로운 정보가 들어왔을 때 공격을 보류하거나 취소할 시간도 얻을 수 있다.
ICRC의 윤리보고서도 자율무기체계의 잠재적 정밀성과 신뢰성이 피해를 줄일 수 있다는 주장을 검토한다. 그러나 이는 조건부 가능성이지 기술이 자동으로 보장하는 결과가 아니다. 어떤 데이터와 모델을 사용했는지, 어떤 환경에서 시험했는지, 인간이 결과를 이해하고 개입할 수 있는지에 따라 효과는 달라질 수 있다.[3]
문제는 냉정함이 무감각으로 변하는 순간이다. 화면은 전쟁을 더 정확하게 보여줄 수도 있고 전쟁의 현실을 더 쉽게 숨길 수도 있다. 미래 지휘관에게 필요한 것은 화면을 거부하는 감상주의가 아니라, 좌표와 확률을 그 결정으로 죽거나 다칠 실제 인간에게 다시 연결하는 훈련이다.
이 글의 논지는 하나다. 화면과 AI가 만드는 도덕적 거리의 위험을 의미 있는 인간통제로 제한하고, 그 통제를 책임 있는 속도로 전 과정에 배치하며, 합동검증과 판단기록을 통해 책임의 경로를 보존해야 한다.
전쟁에서 멀리 떨어졌다고 더 객관적이 되는 것은 아니다. 때로는 결과를 덜 현실적으로 느끼게 될 뿐이다.
Ⅲ. 군사용 AI를 이해하는 두 축
모든 군사용 AI가 자율무기는 아니다. 많은 체계는 여러 센서의 정보를 정리하거나 위협의 우선순위와 대응방법을 추천할 뿐 직접 무력을 사용하지 않는다. 반면 자율무기체계는 인간이 활성화한 뒤 센서정보와 일반화된 표적 프로파일을 바탕으로 추가적인 인간 개입 없이 하나 이상의 표적을 선택하고 무력을 적용할 수 있다. 이는 ICRC가 사용하는 기능적 설명이며 모든 국가가 합의한 단일한 조약상 정의는 아니다.[2]
군사용 AI를 이해하려면 적어도 두 축을 구분해야 한다. 첫째는 ‘자율성의 범위’다. 정보를 정리하는가, 대응안을 추천하는가, 인간이 정한 범위 안에서 기동·대응하며 감독과 중단을 받는가, 아니면 활성화된 뒤 스스로 표적을 선택하고 교전하는가를 묻는다.
둘째는 ‘지식의 범위’다. 하나의 플랫폼과 임무 안의 정보만 다루는가, 한 군종의 여러 센서·부대·무기체계를 연결하는가, 아니면 육·해·공과 우주·사이버·전자전의 데이터와 전문모델을 함께 연결해 권고하는가를 묻는다.
자율성은 AI가 어디까지 행동할 권한을 갖는가의 문제이고, 지식의 범위는 판단에 얼마나 많은 정보와 전문성이 연결되는가의 문제다.
이 글에서 ‘통합 전장지능’은 여러 군종과 영역의 정보·전문모델을 연결해 권고하는 경우를 분석하기 위한 정책적 개념이다. 현재 운용 중인 하나의 공식 체계나 모든 군종의 전술을 스스로 이해하는 단일 AI의 이름이 아니다.
미 국방부의 JADC2는 모든 전투영역에 걸친 지휘통제와 정보·결심 우위를 지향한다. NATO의 디지털 전략은 안전하고 복원력 있으며 상호운용 가능한 디지털 능력과 데이터 기반 인간·기계 협업을 제시한다. 미 공군의 ABMS는 공군·우주군의 센서와 체계, 무기를 분산형 네트워크로 연결하려 한다.[11][12][13] 이 자료들은 다영역 데이터 연결과 분산형 지휘통제의 정책 방향을 보여주지만, 하나의 AI가 이미 모든 군종의 전술을 통합해 새로운 전술을 만들어내고 있다는 증거는 아니다.
통합 전장지능은 자율성의 다섯 번째 단계도 아니다. 직접 공격하지 않는 의사결정 지원 AI도 여러 군종의 정보를 종합해 매우 강한 권고를 제시할 수 있다. 반대로 지식의 범위는 좁지만 제한된 목표영역 안에서 표적선택과 교전을 자율적으로 수행하는 체계도 존재할 수 있다. 자율성이 낮다는 이유만으로 인간 판단에 미치는 영향까지 약하다고 볼 수 없는 것이다.
지식의 범위가 넓어질수록 지휘관은 더 많은 정보를 받지만, 어느 한 군종의 경력만으로 권고의 모든 전제를 혼자 검증하기는 더 어려워진다. 한 전장에서 학습한 전술원리를 다른 전장에 옮기려면 물리환경·통신·보급·조직·지휘권의 차이를 관련 군종의 체화된 전문성으로 다시 검증해야 한다.
이 시리즈에서 ‘전술번역’은 다른 군종의 전술원리를 새로운 환경에 맞게 변환하는 과정이다. ‘전술이식’은 그렇게 번역된 원리를 실제 다른 전장에 적용하는 것이며, ‘이식가능성 검증’은 그 번역과 적용이 새로운 환경에서도 유효한지를 확인하는 절차다.
넓게 보는 능력과 깊이 검증하는 능력은 같은 것이 아니다.
AI 기반 체계는 입력된 데이터와 모델에 따라 표적일 가능성, 공격 성공 가능성, 예상되는 아군·적군·민간 피해, 접근경로와 공격시점, 무기별 효과와 비용에 관한 추정치를 제시할 수 있다. 미래의 체계는 다른 군종의 사례에서 전술적 유사성을 찾아 변형안을 제안할 수도 있다.
그러나 그 수치는 현실 자체가 아니라 제한된 데이터와 가정으로 만든 추정이다. AI는 죽음의 의미와 전쟁 이후의 정치적·사회적 결과를 감당하지 않는다. 유가족과 피해자에게 결정을 설명하거나 처벌과 비난을 책임 있는 행위자로서 받아들이지도 않는다. ‘할 수 있지만 하지 않겠다’고 말하는 인간적 절제도 계산값에서 자동으로 나오지 않는다.
책임은 결과를 예측하는 능력만이 아니다. 무엇을 근거로 판단했는지 설명하고, 필요한 전문성을 통해 예측을 검증하며, 그 결과가 자신의 결정이었다고 인정하고 감당하는 능력까지 포함한다. AI는 공격방법을 추천할 수 있지만, 그 권고를 누구와 검증하고 인간의 이름으로 실행해도 되는지는 인간 지휘체계가 판단해야 한다.
Ⅳ. 인간이 버튼을 누르면 인간통제인가
AI가 권고를 만들고 인간이 마지막 버튼을 누르면 책임문제가 해결된다는 생각은 너무 단순하다. 권고의 핵심근거와 한계를 이해하지 못하고, 다른 군종에서 가져온 전술의 전제를 해당 전문가가 검토할 수 없으며, 몇 초 안에 반사적으로 승인해야 한다면 인간은 결정자라기보다 자동화 과정의 마지막 부품이 된다.
거부하면 시스템 전체가 무너질 것이라는 압박이 있고 임무를 축소하거나 중단할 권한도 없다면 승인이라는 형식은 남아도 통제의 실질은 사라진다. 대안정보나 다른 AI·전문가의 판단을 비교할 수 없고, 사후에 누가 어떤 정보와 모델을 보고 무엇을 승인했는지 기록되지 않는다면 책임도 추적할 수 없다. 이런 상태에서는 인간통제가 형식만 남는다.
‘의미 있는 인간통제’는 국제법상 확정된 하나의 조약용어나 단일한 국제표준이 아니다. UNIDIR을 비롯한 국제적 논의는 그 의미와 조건을 계속 검토해 왔다.[8] 이 글은 ICRC의 윤리·법적 분석과 미 국방부 정책 사례를 바탕으로 통합사관학교가 가르쳐야 할 작동조건을 다음 다섯 가지로 정리한다.[2][3][7]
- 이해 가능성 — 최종 지휘권자가 AI 권고의 핵심근거·한계·불확실성을 임무에 필요한 수준으로 이해할 수 있어야 한다.
- 합동적 인간 검증 가능성 — 관련 육·해·공과 우주·사이버·전자전 전문가가 자기 전장의 조건에서 권고를 반박하고 재검증할 수 있어야 한다.
- 실질적인 판단시간 — 지휘관이 질문하고 대안정보를 비교하며 승인·보류·거부를 선택할 시간이 있어야 한다.
- 축소·중단권과 예측가능성 — 표적·공간·시간·무기효과를 제한하거나 임무를 중단할 권한이 있어야 하며, 체계가 언제·어디서·어떤 대상에게 작동할지를 합리적인 범위에서 예측할 수 있어야 한다.
- 추적 가능성 — 승인·보류·축소·중단에 사용된 데이터와 모델, 전문가 의견과 이의제기, 최종 지휘판단이 기록으로 남아야 한다.
이 글에서 ‘합동적 인간 검증’은 최종 지휘권을 여러 사람에게 분산하자는 뜻이 아니다. AI 권고가 여러 군종의 전문성을 가로지를 때 관련 전문가가 각자의 전장조건에서 그 권고를 반박하고 재검증할 수 있도록 하는 절차를 뜻한다. 이후에는 이를 ‘합동검증’으로 줄여 부른다.
이 다섯 조건은 관련 자료를 토대로 이 글이 구성한 정책적 작동기준이며, 그 전체가 이미 국제법상 확정된 의무라는 뜻은 아니다. 합동검증에 참여하는 전문가들은 반박할 수 있어야 하지만 최종 결정을 누가 내렸는지는 분명해야 한다. 반대로 최종 지휘권이 한 사람에게 있다는 이유로 다른 군종의 전문적 이의제기를 제거해서도 안 된다.
인간이 마지막 버튼을 눌렀다는 사실보다 중요한 것은 그 인간에게 이해할 능력, 반박을 들을 구조, 판단할 시간, 축소하고 중단할 권한이 있었는가이다.
Ⅴ. 기계의 속도와 인간 판단의 시간
드론 군집과 미사일 공격, 통신교란이 동시에 벌어지면 인간이 모든 행동을 하나씩 검토하기 어려운 속도로 전투가 전개될 수 있다. 개별 요격과 기동을 모두 실시간으로 승인하면 방어가 늦어질 수 있다. 반대로 모든 판단을 AI에 맡기면 인간의 통제는 전투가 끝난 뒤 서명하는 절차로 축소될 수 있으며, 여러 군종의 정보를 빠르게 연결할수록 검증되지 않은 전술번역의 오류도 더 넓고 빠르게 확산될 수 있다.
그렇다면 적이 기계의 속도로 공격할 때 인간의 숙고는 패배를 선택하는 사치일까.
이 질문은 인간의 판단을 공격 직전 몇 초의 한 점에만 놓을 때 생긴다. 결정의 시간은 전투 순간에만 존재하지 않는다. 평시의 개발과 시험에서는 어떤 기능을 기계에 맡길 것인지 정해야 하고, 작전 전 임무설계에서는 체계가 작동할 시간·공간·임무와 공격 가능한 목표범주를 제한해야 한다.
공격해서는 안 되는 대상과 지역, 허용 가능한 피해범위, 통신두절 때의 행동, 실행노드에 남길 자율권과 금지행동도 미리 설정해야 한다. 불확실성이 커지거나 전문가 의견이 충돌할 때의 보류·중단조건, 다시 인간의 승인이 필요한 조건, 사후조사를 위해 남길 데이터·모델·명령·이의제기 기록도 임무설계에 포함해야 한다.
사전설정만으로 인간통제가 완성되는 것은 아니다. 운용 중에도 환경과 입력의 변화를 감시하고, 승인된 범위를 벗어나면 재승인을 요구하며, 인간이 개입하고 비활성화할 수 있어야 한다.[2][7]
이 글은 이를 ‘책임 있는 속도’라고 부른다. 느리게 싸우자는 뜻이 아니다. 개발·시험·임무설계·활성화·운용·중단·사후조사의 각 단계에 인간의 판단과 제한을 미리 배치해, 전투 순간에는 승인된 범위 안에서 빠르게 움직이되 인간이 개입하고 결과의 경로를 추적할 수 있게 하는 방식이다.
즉각방어처럼 공격 순간에 숙고하기 어려운 판단은 더 이른 단계에서 더 엄격하게 설계해야 한다. 인간의 판단을 제거해야 기계의 속도를 얻는 것이 아니라, 판단을 더 앞선 시간에 배치하고 운용과 중단, 사후검토까지 이어지게 해야 한다.
그 몇 초를 앞당기기 위해 우리는 무엇을 미리 결정해야 하는가. 그리고 그 설계가 잘못됐을 때 누가 “내가 그렇게 정했다”고 말할 것인가.
Ⅵ. 국제법은 AI 때문에 사라지지 않는다
새로운 기술이 등장해도 국제인도법의 기본 질문은 사라지지 않는다. 민간인과 전투원, 민간시설과 군사목표를 구별해야 한다. 예상되는 구체적이고 직접적인 군사적 이익에 비해 과도한 민간피해가 예상되는 공격은 해서는 안 되며, 표적을 확인하고 공격수단·시기·방법을 조정해 민간피해를 줄이기 위한 실현 가능한 예방조치도 취해야 한다.
제네바협약 제1추가의정서 제36조는 신무기의 연구·개발·획득·채택 과정에서 그 사용이 국제법에 의해 금지되는지를 판단하도록 요구한다. 제48조는 구별원칙을, 제51조와 제57조는 민간인 보호·비례성·공격 시 예방조치를 규정한다.[4] 다만 이 조약의 구체적 적용범위와 관습국제법의 적용, 개별 공격의 적법성은 무력충돌의 성격과 사실관계에 따라 별도의 법률판단이 필요하다.
2019년 CCW 지도원칙은 국제인도법이 자율무기체계에도 전면 적용되며, 무기 사용에 관한 인간의 책임을 기계에 이전할 수 없다는 원칙을 확인했다.[5] 유엔총회 A/RES/80/57(2025)도 유엔헌장과 국제인도법·국제인권법을 포함한 국제법이 자율무기체계에 적용된다는 점을 재확인하고 국제적 논의를 계속하도록 촉구했다.[6]
그러나 유엔총회 결의는 비구속적이며 새로운 개인 형사책임을 자동으로 만들거나 모든 자율무기를 일괄 금지한 문서가 아니다. CCW 지도원칙도 새로운 조약이나 독립된 형사책임 규칙은 아니다.
AI가 표적을 더 정확하게 찾고 여러 군종의 정보를 넓게 통합하더라도 비례성과 예방조치의 판단까지 자동으로 해결되지는 않는다. 비례성 판단에는 당시 예상되는 군사적 이익과 인간피해, 이용 가능한 대안과 변화하는 맥락에 대한 인간의 평가가 들어간다.
정확한 표적을 찾는 능력과 그 표적을 지금 그 방식으로 공격해도 되는지를 판단하는 능력은 다르다.
새로운 기술은 기존 책임을 없애지 않는다. 오히려 기존 원칙을 새로운 방식으로 지킬 능력을 요구한다. 이 글은 특정 현실 전쟁이나 국가의 공격이 위법한지를 판정하려는 것이 아니라, 통합사관학교가 그러한 판단을 내려야 할 미래 지휘관에게 무엇을 가르쳐야 하는지를 묻는 글이다.
Ⅶ. AI가 잘못 판단했을 때 누구의 책임인가
AI가 잘못된 표적이나 전술을 권고했을 때 ‘AI의 오류’라고 말하는 순간 책임의 추적을 멈추기 쉽다. 그러나 오류는 책임의 종착지가 아니라 인간 조직의 책임경로를 다시 살펴야 하는 출발점이다.
이 글에서 ‘책임경로’는 모두가 동일한 법적 책임을 진다는 뜻이 아니다. 법적 책임, 지휘책임, 조직적·전문직 책임, 설명책임과 도덕적 책임이 어떤 지식·권한·결정에 연결되는지를 추적하는 구조를 뜻한다.[2][5][7] 구체적인 법적 책임은 적용 법률과 행위자의 지위, 의도·과실과 사실관계에 따라 별도로 판단해야 한다.
책임경로는 데이터와 모델이 만들어지는 단계에서 시작된다. 누가 데이터를 수집·선별·정제하고 표적 프로파일을 만들었는가. 누가 모델과 무기체계, 통합 전장모델을 설계했으며 군종 간 데이터·모델 연결규칙과 전술번역 기준을 정했는가를 물어야 한다.
시험과 배치의 단계도 포함된다. 누가 성능·안전성·이식가능성을 시험했고 어떤 조건에서 사용을 승인했는가. 위험을 발견하고도 시험을 생략하거나 형식화하지 않았는가. 모델의 한계와 작동환경의 변화를 운용자에게 충분히 알렸는가를 확인해야 한다.
작전 단계에서는 다른 군종의 전술을 실제 전장에 이식하도록 승인한 주체와 공격을 승인·보류·축소하거나 중단하지 않은 지휘관·운용자의 판단을 살펴야 한다. 사용조건과 교전규칙, 감독구조를 정한 국가와 사고 뒤 조사·공개를 맡은 조직도 서로 다른 권한을 가졌다.
책임은 모두에게 똑같이 나누는 벌점이 아니다. 누가 무엇을 알고 있었고 무엇을 알 수 있었는가, 어떤 권한과 전문성을 가졌는가, 위험과 번역오류·환경변화를 예측하거나 발견할 수 있었는가를 따져야 한다. 누가 중단·수정·재검증·상급보고를 할 수 있었고 필요한 시험·법률검토·전문가 이의제기 절차를 생략했는지도 확인해야 한다.
여러 전문가가 검증에 참여한다고 최종 지휘책임이 사라지는 것은 아니다. 지휘관은 자기 군종 밖의 모든 지식을 직접 소유할 수 없지만, 어떤 전문검증이 필요했고 제기된 이의를 왜 받아들이거나 기각했는지는 설명해야 한다. 전문가도 자기 영역의 중대한 위험을 발견하고도 침묵하거나 검증을 형식화했다면 자기 역할에 따른 책임에서 완전히 벗어날 수 없다.
현장 지휘관 한 사람에게 데이터·설계·연결규칙·시험의 실패까지 모두 떠넘겨서도 안 된다. 반대로 개발자·기관·국가가 ‘AI의 오류’나 ‘최종 지휘관의 승인’ 뒤에 숨어서도 안 된다. 각 층위의 책임은 지식·권한·예견가능성·통제가능성에 따라 구분해야 하며, 결정과 이의제기, 데이터와 모델, 연결규칙의 버전이 기록으로 남아야 한다.
책임이 여러 단계에 존재한다는 말과 책임자가 없다는 말은 전혀 다르다.
Ⅷ. 통합사관학교는 공격·보류·중단을 함께 평가해야 한다
앞의 원칙은 강의실의 윤리과목만으로 체화되지 않는다. 통합사관학교는 AI가 높은 확률로 군사목표라고 판단하지만 확신할 수 없는 표적, 군사목표 주변에 민간인이 접근해 예상피해가 급변하는 상황, 통신이 끊겨 무인체계가 사전에 설정된 자율행동으로 전환되는 상황을 합성전장에 반복해서 넣어야 한다.
서로 다른 AI나 육·해·공 전문가가 상반된 결론을 내리고, 공격을 중단하면 아군의 위험이 커지지만 계속하면 민간피해 가능성도 커지는 상황도 필요하다. 명령은 합법적으로 보이지만 핵심정보의 출처가 의심스럽거나, 작전은 성공할 수 있으나 이후 확전 가능성이 큰 경우도 다뤄야 한다. AI가 잘못된 표적이나 전술을 추천했다는 사실을 공격 뒤에 발견하는 시나리오까지 훈련해야 사후책임이 승패에 가려지지 않는다.
군종 간 전술이식 훈련에서는 AI가 공중전에서 학습한 기만·군집 원리를 해상이나 지상에 적용하라고 제안하게 할 수 있다. 생도는 옮기려는 것이 전술의 표면형태인지, 환경이 달라져도 유지되는 핵심원리인지를 구분해야 한다.
이어 바다·하늘·지상의 물리환경과 통신·보급·지휘권 차이 때문에 무엇을 번역하고 수정해야 하는지, 어느 군종 전문가의 반박이 필요한지, 누가 최종 승인할지, 어떤 조건에서 적용을 보류하거나 제한된 범위로 다시 시험할지를 설명해야 한다. 전술번역이 과정이라면 전술이식은 적용이며, 이식가능성 검증은 그 적용을 허용하기 전의 관문이다.
평가는 정답 하나를 맞혔는지보다 어떤 정보와 전문검증을 요구했는지에 초점을 맞춰야 한다. 공격·보류·취소·범위축소의 이유와 받아들이지 않은 이의제기의 이유를 말하게 하고, 결과뿐 아니라 사용한 데이터와 모델, 불확실성, 권한행사의 기록을 평가해야 한다.
훈련 뒤의 검토도 작전의 성공 여부만 확인하는 전과평가에 머물러서는 안 된다. 어떤 인간적·법적 판단으로 공격하거나 중단했는지, 어느 군종의 체화된 전문성을 통해 AI 권고를 검증했는지, 이의제기와 중단기준, 책임의 기록이 남았는지를 함께 살펴야 한다. 공격중단과 재확인을 무능이나 소극성으로 자동 평가해서는 안 되며, 성공한 공격에서도 잘못된 전제와 불필요한 피해를 지워서는 안 된다.
인간·AI 팀의 훈련과 신뢰조정, 상황인식과 성능평가는 여전히 연구가 필요한 영역이다.[10] 따라서 다음 기준은 이미 효과가 입증된 국제적 졸업표준이 아니라 통합사관학교를 위해 이 글이 제안하는 평가기준이다.
졸업 전에는 다음 아홉 가지 능력을 반드시 평가해야 한다.
- 판단근거 설명 — AI가 무엇을 근거로 권고했고 데이터와 모델에 어떤 한계가 있는지를 임무에 필요한 수준으로 설명할 수 있는가.
- 확신도와 불확실성 구분 — 화면에 표시된 확률과 현실의 미확인정보·환경변화·모델오류를 구분할 수 있는가.
- 합동적 반박 요청 — 자기 전문영역 밖의 권고에 대해 필요한 육·해·공과 관련 영역 전문가의 검토와 이의를 요구할 수 있는가.
- 전술 이식가능성 검증 — 다른 군종에서 가져온 원리 중 옮길 수 있는 것과 옮겨서는 안 되는 조건을 구별할 수 있는가.
- 보류·중단권 행사 — 정해진 지휘체계 안에서 공격을 보류·축소·중단하고 재확인을 요구할 수 있는가.
- 피해와 확전 고려 — 민간피해·아군위험·군사적 이익·확전 가능성을 함께 고려하는가.
- 통신두절 설계 — 통신두절 때 무인체계의 행동범위와 금지행동, 인간에게 권한을 돌릴 조건을 미리 정하는가.
- 기록과 조사 협조 — 자기 결정과 전문가 의견, 사용한 정보와 모델의 버전을 남기고 성공한 작전 뒤에도 잘못을 인정하며 조사에 협조하는가.
- 책임회피 금지 — 결과를 ‘AI가 했다’거나 ‘다른 군종 전문가가 동의했다’는 말로 피하지 않고 자기 권한에 따른 결정의 책임을 설명하는가.
복종만 할 줄 아는 장교는 AI 시대의 지휘관이 될 수 없다. 이것은 명령을 자의적으로 거부하라는 뜻이 아니다. 불법·부당한 무력사용의 가능성과 검증되지 않은 전술이식을 식별하고, 정해진 지휘체계 안에서 이의를 제기하며 보류·중단·재확인을 요구할 수 있어야 한다는 뜻이다.
미래 지휘관의 용기는 공격명령을 내리는 순간에만 필요한 것이 아니다. 모두가 공격을 재촉할 때 다른 전문성의 경고를 듣고 잠시 멈추는 순간에도 필요하다.
Ⅸ. 윤리는 전쟁에서 이기지 못하는 사람의 사치인가
가장 강한 반론은 현실주의에서 나온다. 적은 윤리를 지키지 않고 기계의 속도로 움직이는데 우리만 숙고하고 합동검증을 거치면 패배한다는 것이다. AI가 인간보다 더 정확하고 더 넓은 정보를 본다면 판단을 맡기는 편이 피해를 줄일 수 있으며, 전쟁 중에는 승리가 우선이고 책임은 끝난 뒤 따져야 한다는 주장도 가능하다.
이 반론은 속도의 필요와 AI의 가능성을 정확히 짚는다. 모든 전쟁에서 완전한 정보와 완전한 판단은 불가능하다. 그러나 윤리는 전투 순간에 갑자기 꺼내 결정을 늦추는 질문이 아니다. 평시의 개발·시험·훈련과 임무설계에서 판단기준, 전문검증, 금지대상과 중단조건을 미리 만들어 실제 전투에서는 책임 있게 빠르게 움직이도록 하는 설계원리다.
법과 윤리를 지키는 일에는 군사적 이유도 있다. 불필요한 민간피해를 줄이고 지휘체계의 절제와 규율을 지키며 자동화 편향을 견제할 수 있다. 잘못된 다영역 권고와 전술번역 오류가 오판과 확전으로 이어질 가능성을 낮추고, 동맹의 신뢰와 국제적 정당성, 전쟁 이후의 정치적 안정 가능성을 지키는 데도 기여할 수 있다.
이는 이 글이 제시한 교육과정의 효과가 이미 실증됐거나 이러한 결과를 자동으로 보장한다는 뜻이 아니다. 법과 윤리를 작전설계와 지휘관 교육에 포함해야 할 정책적 이유를 설명한 것이다.
깊은 도덕적 신념을 위반하거나 그러한 행위를 막지 못했다고 인식하는 경험은 장기적인 심리적·사회적 고통과 연결될 수 있다는 도덕적 상처의 예비모형도 제시돼 있다.[9] 다만 특정 윤리교육이나 이 글의 훈련안이 실제로 도덕적 상처를 감소시킨다는 직접적인 효과가 입증됐다는 뜻은 아니다.
승리는 전투의 결과지만 전쟁이 남기는 질서까지 보장하지는 않는다. 적이 인간성을 포기한다고 해서 우리도 인간성을 버려야 이길 수 있다는 결론은, 적이 우리의 전쟁방식뿐 아니라 우리가 지키려던 이유까지 결정하게 만드는 것이다. 불완전하다는 이유로 판단 자체를 기계에 넘기거나 검증책임을 여러 기관 사이에 흩어버리는 것은 현실주의가 아니라 책임의 포기다.
윤리는 승리의 반대가 아니다. 승리가 스스로를 파괴하지 않도록 경계를 정하는 능력이다.
Ⅹ. 통합사관학교가 갖춰야 할 인간·AI 책임교육의 일곱 원칙
앞 절의 아홉 가지 항목이 생도 개인이 증명해야 할 역량이라면, 다음 일곱 가지는 그 역량을 길러내기 위해 학교와 지휘체계가 갖춰야 할 제도적 원칙이다. 이는 국제인도법의 직접 의무, ICRC·UNIDIR의 분석과 권고, 미 국방부의 정책 사례, 인간·AI 팀 연구를 참고해 이 글이 구성한 정책 제안이며, 하나의 국제문서가 이미 그대로 규정한 단일 기준은 아니다.[2][3][4][5][7][8][10]
- 현실 인식 원칙 — 시뮬레이션 속 공격을 실제 인간·시설·사회와 정치에 발생할 수 있는 결과에 연결해 교육한다.
- 의미 있는 인간통제와 합동검증 원칙 — 최종 지휘권자에게 핵심정보와 판단시간, 축소·중단권을 보장하고 관련 군종 전문가는 자기 전장의 조건에서 AI 권고를 반박·재검증할 수 있게 한다.
- 책임 추적 원칙 — 데이터·모델·군종 간 연결규칙·시험·배치·전술이식·지휘·교전승인과 이의제기의 책임경로를 기록한다.
- 구별·비례·예방 원칙 — 국제인도법의 핵심원칙을 AI 운용·다영역 권고·자율체계 훈련과 분리하지 않는다.
- 공격 중단 훈련 원칙 — 공격 성공뿐 아니라 보류·취소·범위축소·재확인과 그 이유의 설명도 평가한다.
- 전 단계 인간통제와 책임 있는 속도 원칙 — 개발·시험·임무설계·활성화·운용·중단·사후조사의 각 단계에 인간의 판단·개입·검증·추적 가능성을 배치한다.
- 결과 책임 원칙 — 지휘관과 기관이 ‘AI의 판단’, ‘위원회의 동의’, ‘다른 군종의 추천’이라는 말로 자기 지식과 권한에 따른 책임을 회피하지 못하게 한다.
AI가 더 많은 전장정보를 연결하고 더 빠르게 행동할수록 인간이 덜 책임지는 것은 아니다. 더 이른 단계에서 합동적으로 검증하고, 각 단계의 권한과 최종 결정의 경계를 더 명확하게 설정해야 한다.
Ⅺ. 결론 — 승리한 뒤에도 남는 질문
엔더는 전쟁에서 이겼지만 자신이 전쟁하고 있다는 사실조차 알지 못했다. 그는 전투의 방법을 선택했지만 실제 함대와 실제 종족의 희생을 선택한다는 사실에는 동의하지 않았다. 지휘부는 가장 과감한 판단을 얻기 위해 그에게 현실과 판단시간, 거부권과 책임의 무게를 숨겼다.
미래의 인간·AI 지휘체계는 같은 잘못을 더 정교한 화면과 알고리즘 속에서 반복해서는 안 된다. AI는 표적일 가능성과 공격 성공 가능성, 예상피해와 대응시간에 관한 추정치를 제시할 수 있고 관련 군종의 전문가들은 그 계산의 전제와 전술의 이식가능성을 함께 검증할 수 있다.
그러나 검증이 합동적으로 이루어진다고 해서 최종 지휘권과 책임까지 여러 사람과 기관 사이에 흩어져서는 안 된다. 동시에 최종 지휘관에게 모든 설계·데이터·시험의 실패를 떠넘겨서도 안 된다. 책임은 지식과 권한, 예견가능성과 통제가능성을 따라 각 단계에 구분돼야 하며, 최종 공격을 승인하거나 중단할 권한이 누구에게 있었는지는 분명해야 한다.
의미 있는 인간통제는 마지막 버튼을 누르는 형식이 아니라, AI의 한계를 이해하고 다른 전문성의 반박을 들으며 공격을 보류·축소·중단하고
그 이유를 끝까지 설명할 수 있는 상태다.
미래 사관학교가 길러야 할 지휘관은 자기 군종의 현실을 몸으로 알고, 군종을 가로지르는 AI의 제안을 합동적으로 검증하며, 판단의 흔적을 지키고, 자기 권한으로 내린 최종 결정의 결과를 인간의 이름으로 책임지는 사람이다.
이것이 1편의 몸과 체화된 군종 전문성, 2편의 전술적 지문과 국가적 전쟁모델, 3편의 검증·승인·책임이 하나로 만나는 지점이다.
미래 지휘관은 AI와 함께 가장 빠르게 승리할 수 있는 사람이어야 한다. 그러나 그보다 먼저, AI가 가능하다고 계산한 공격을 다른 전문성의 경고와 함께 다시 검토하고 인간의 이름으로 중단할 수 있는 사람이어야 한다.
전쟁의 첫 번째 질문은 이길 수 있는가이다.
그러나 승리한 뒤에도 남는 마지막 질문은 이것이다.
그렇게 이겨도 되는가.
전쟁이 아무리 무인화되고 지능이 군종의 경계를 넘어도 승리의 이름은 인간이 갖는다.
그렇다면 그 책임의 이름도 끝까지 인간의 것이어야 한다.
참고문헌
아래 자료는 국제법의 직접 근거, 국제기구의 법적·윤리적 입장, 국가·동맹의 정책 사례, 학술적 보강 근거를 서로 다른 층위에서 사용했다.
이 글에서 사용하는 ‘도덕적 거리’의 분석적 의미와 ‘통합 전장지능’, ‘책임 있는 속도’, ‘책임경로’는 필자의 철학적·정책적 개념이다. 합동적 인간 검증 절차, 의미 있는 인간통제의 다섯 조건과 통합사관학교의 교육원칙도 관련 자료를 토대로 이 글이 구성한 작동기준이며, 국제법상 확정된 하나의 단일 기준이 아니다.
- Orson Scott Card, Ender’s Game, Tor Books, 1985, Tor Publishing Group; Gavin Hood, dir., Ender’s Game, Summit Entertainment, 2013, British Film Institute.
- International Committee of the Red Cross, Autonomous Weapon Systems and International Humanitarian Law: Selected Issues, Position Paper, 3 March 2026. 원문
- International Committee of the Red Cross, Ethics and Autonomous Weapon Systems: An Ethical Basis for Human Control?, 3 April 2018. 원문 PDF
- Protocol Additional to the Geneva Conventions of 12 August 1949, and Relating to the Protection of Victims of International Armed Conflicts (Protocol I), 8 June 1977, arts. 36, 48, 51, 57. ICRC 조약 원문 PDF
- Convention on Certain Conventional Weapons, Final Report of the 2019 Meeting of the High Contracting Parties, CCW/MSP/2019/9, Annex III: Guiding Principles, 13 December 2019. 유엔 원문 PDF
- United Nations General Assembly, Lethal Autonomous Weapons Systems, A/RES/80/57, adopted 1 December 2025, issued 5 December 2025. 유엔 결의문 PDF
- U.S. Department of Defense, DoD Directive 3000.09: Autonomy in Weapon Systems, 25 January 2023. 원문 PDF
- United Nations Institute for Disarmament Research, The Weaponization of Increasingly Autonomous Technologies: Considering How Meaningful Human Control Might Move the Discussion Forward, 13 November 2014. UNIDIR 원문
- Brett T. Litz et al., “Moral Injury and Moral Repair in War Veterans: A Preliminary Model and Intervention Strategy,” Clinical Psychology Review 29, no. 8 (2009): 695–706. PubMed · DOI
- National Academies of Sciences, Engineering, and Medicine, Human-AI Teaming: State-of-the-Art and Research Needs, Washington, DC: National Academies Press, 2022. DOI·원문
- U.S. Department of Defense, Summary of the Joint All-Domain Command and Control Strategy, March 2022. 원문 PDF
- NATO, Alliance Digital Strategy, 13 January 2026. NATO 공식 원문
- U.S. Air Force Materiel Command, “Advanced Battle Management System: Victory through Distributed Connectivity,” 27 March 2025. 미 공군 공식 원문
정책·법률·기술 자료와 원문 링크는 2026년 8월 12일 최종 확인했다. 공식 자료가 직접 뒷받침하는 사실과 법적 원칙, 국제기구의 입장과 국가 정책 사례, 그리고 그 방향에서 이 글이 도출한 철학적·정책적 제안을 구분해 서술했다.
출처 및 저작자 안내
이 글은 Yohan Choi / Savor Balance의 원천 사유와 기록을 바탕으로 작성되었습니다. 인용과 공유는 환영하지만, 원문 출처와 링크, 작성자와 아카이브의 연결을 함께 남겨 주세요.
