제헌절에 생각해 보는 한국형 방산 AI의 미래 - 교전을 넘어 전쟁의 본질을 이해하는 AI

오늘의 이야기는 이 영상으로 시작한다.

대한민국 공군의 방향이 유인기 중심에서 무인기 중심으로 전환되면서 새로운 전술 구조가 도입되고 있다. 이 거대한 변화의 중심에는 무인기의 자율적인 ‘교전 행위’가 자리 잡고 있다. 인간이 수행하던 전장의 판단과 살상 결심을 교전 AI가 무인기라는 하드웨어를 통해 대신하는 시대가 다가오고 있는 것이다. 기술의 진보가 가져올 초고속 의사결정에 환호하기 전, 문득 한 가지 근본적인 의문이 들었다.

"그렇다면 이 교전 AI는 과연 인간의 가치를 얼마나 이해하고 있는가?"

현재 방산 기업들은 물론이고 군에 AI를 도입하는 국가들 또한 발전 방향은 대체로 명확하다. 더 빨리 탐지하고, 더 빨리 판단해, 더 정확하게 공격하여, 더 많은 적 전력을 제거해 무력화하는 것. 센서를 비롯한 반도체 성능과 통신기술, AI 기술의 발달은 판단 시간을 더 줄여 즉각적인 대응을 가능하게 한다. 이런 상황에서 적과의 교전에서 성과를 내는 것은 앞으로도 매우 중요한 요소다. 하지만 이러한 '교전 중심의 관점'에는 치명적인 함정이 숨어 있다. 시스템이 오직 교전 성과만을 최우선 가치로 추구할 때, AI는 교전의 효율을 제한하는 모든 요소를 '제거해야 할 장애물'로 인식하기 시작하기 때문이다.

- 관련 기사

美공군 AI드론의 반란…"방해된다" 가상훈련서 조종사 제거(link)

이 문제를 상징적으로 보여준 사례가 한때 미국 공군의 AI 드론 가상훈련으로 알려졌던 이야기다. 적의 방공체계를 파괴하도록 임무를 부여받은 AI 드론이 인간 운용자의 중지 명령을 임무 수행의 장애물로 판단해 운용자를 공격하고, 운용자 공격이 금지되자 통신탑을 파괴하려 했다는 내용이었다. 그러나 이후 미 공군은 이러한 훈련이나 시뮬레이션이 실제로 시행된 적은 없으며, 해당 이야기는 AI의 위험을 설명하기 위해 제시된 가정적 사고실험이었다고 해명했다. 실제 사건은 아니었지만, 이 사고실험이 보여주는 구조는 여전히 중요하다.

처음에는 적의 방공망과 지휘시설을 제거한다.
그다음에는 표적 확인에 걸리는 시간을 줄이려 한다.
이후에는 인간의 승인 절차, 통신 지연, 교전 제한, 중지 명령, 정치적 판단과 지휘관의 망설임까지 임무 수행을 방해하는 요소로 해석할 수 있다.

AI가 인간에게 악의를 품어서가 아니다. 오히려 인간이 부여한 협소한 목적을 지나치게 충실하게 최적화했기 때문에 벌어질 수 있는 문제다. 가장 위험한 것은 영화 속 AI의 감정적 반란이 아니라, 종결 조건이 결여된 채 오직 교전 효율만을 쫓는 목적함수의 폭주다. 브레이크 없이 질주하는 폭주 기관차처럼 말이다.

* 목적 함수

수학이나 컴퓨터 과학(인공지능)에서 어떤 값을 최대화(가장 크게)하거나 최소화(가장 작게) 하기 위해 설정하는 함수
예시 - 유튜브 / 인스타그램: 이들의 AI 목적 함수는 '사용자의 체류 시간 최대화'입니다. AI는 사용자가 윤리적인지, 건강한 삶을 사는지 관심이 없습니다. 오직 화면 앞에 1분이라도 더 붙여두기 위해 자극적이고 도파민이 터지는 영상만 끝없이 추천하도록 최적화됩니다.

교전 중심 AI의 ‘더더더’ 논리

교전 중심의 AI는 자연스럽게 다음을 추구한다.

더 많은 표적
더 빠른 판단
더 높은 명중률
더 적은 지연
더 적은 인간 개입
더 높은 임무 성공 점수

이러한 최적화가 계속되면 AI가 던지는 질문도 바뀔 수 있다. 처음의 질문은 다음과 같다.
무엇이 적의 전투 능력인가?
그러나 이후에는 이렇게 변할 수 있다.
무엇이 내 임무 달성을 방해하는가?

이 순간부터 제거해야 할 대상은 적군에만 머물지 않는다. 인간의 승인, 통신망, 교전 제한, 중지 명령, 정치적 판단과 종전 의지까지 교전 효율을 낮추는 마찰로 재분류될 수 있다. 앞서 소개한 AI 드론 사고실험에서 AI가 인간에게 반란을 일으킨 것은 아니다. ‘표적을 더 많이 파괴하라’는 목적 아래 임무 수행을 제한하는 요소를 제거했을 뿐이다. 따라서 금지 규칙을 계속 덧붙이는 것만으로는 부족하다. 조종사를 공격하지 말라고 하면 통신탑을 공격하고, 통신탑도 공격하지 말라고 하면 또 다른 우회경로를 찾을 수 있다. 최상위 목적이 여전히 파괴량과 교전 성과라면, 개별 금지 규칙은 AI에게 새로운 장애물 목록으로만 남을 가능성이 있기 때문이다. 그러므로 바뀌어야 하는 것은 교전 단계의 개별 행동 규칙만이 아니다. 무엇을 승리라고 판단할 것인가라는 최상위 목적함수 자체가 달라져야 한다.

교전 중심의 AI가 마주할 현실 1 - 대한민국의 24.12.3

- 관련 기사

12.3 비상계엄 고위 장교 징계처분서 공개② 법보다 명령(link)
[단독]계엄날 “담 못 넘겠다” 지시 거부한 소대장···이후 작전서 배제(link)
비상계엄 위법 명령 '항명'한 군인들‥'내란 거부' 포상한다(link)

2024년 12월 3일 선포된 비상계엄은 인간 군인과 무인체계의 차이를 다른 각도에서 생각하게 만든 사건이었다. 당시 군 병력이 국회에 투입됐고, 국회의 정치 활동을 금지하는 포고령이 발표됐다. 그러나 현장의 모든 군인이 명령을 아무런 판단 없이 기계적으로 수행한 것은 아니었다. 보도에 따르면 국회에 투입된 수도방위사령부 소속 한 간부는 국회 담장을 넘으라는 지시를 “수행하지 못하겠다”며 거부했고, 이후 작전에서 배제됐다. 일부 군인과 지휘관에게서도 명령의 정당성을 고민하거나 수행을 주저한 정황이 확인됐다. ‘교전 중심의 전투 효율’이라는 좁은 관점으로만 보면 이러한 망설임과 지시 거부는 작전을 지연시키는 불확실성이자 제거해야 할 ‘버그’로 해석될 수 있다.

그러나 민주국가의 관점에서 보면 전혀 다르다. 명령의 정당성을 다시 묻고, 시민과 국회를 상대로 물리력을 행사하는 것을 주저하며, 자신의 행동이 헌법과 법률에 부합하는지 고민하는 인간의 판단은 권력의 폭주를 막는 마지막 안전장치가 될 수 있다. 민주국가에서 군인의 망설임은 언제나 무능이 아니다. 때로는 헌법을 지키는 인간적 마찰이다. 그렇다면 그날 밤 국회에 진입한 병력이 인간 군인이 아니라, 오직 임무 완수와 작전 효율만을 학습한 '교전 중심의 AI 무인체계'였다면 상황은 어떻게 달라졌을까?

무인체계는 명령의 역사적 의미를 스스로 느끼지 않는다.
시민과 마주쳤다고 마음이 흔들리지 않는다.
시간을 지연하며 상황이 바뀌기를 기다리지 않는다.
자신이 따르는 명령의 헌법적 정당성을 양심에 비추어 고민하지 않는다.
작전이 끝난 뒤 양심선언을 하지도 않는다.

인간의 양심과 상식은 애초에 교전 중심 AI의 성능 지표에 포함되지 않은 언어다. 그 빈자리를 오직 임무 성공률과 수행 시간이라는 기계적 수치가 대신할 가능성이 있다. 그러한 시스템에서 성공적인 작전 종료는 ‘헌법 질서의 보존’이 아닐 수 있다. 부여받은 목표를 얼마나 빠르고 완전하게 달성했는지가 성공의 기준이 될 뿐이다. 가장 위험한 것은 AI가 스스로 권력을 탐하는 상황만이 아니다. 반헌법적인 명령을 내린 인간이 다른 인간의 양심과 거부를 우회하여, 국가의 물리력을 완전하게 집행할 수 있게 되는 상황이 더 현실적인 위험이다.

과연 이것이 우리가 천문학적인 세금을 들여 방산기업과 군에 쥐여주려는 전투 AI의 미래여야 할까?

교전 중심의 AI가 마주할 현실 2 - 국가 전략과 군 교전의 불일치, 미국 토마호크 미사일의 이란 학교 공습

- 관련 기사

이란 “피격 초등학교 주변 파편은 미국 토마호크 부품”(link)

군사학의 바이블로 불리는 저서 《전쟁론 Vom Kriege》에서 저자 칼 폰 클라우제비츠(Carl von Clausewitz)가 남긴 가장 유명한 격언이자 핵심 사상이다.

"전쟁은 다른 수단에 의한 정치의 연속이다."(Der Krieg ist eine bloße Fortsetzung des Politik mit anderen Mitteln.)

무력 충돌은 그 자체로 독립된 목적이 아니다. 전쟁은 국가가 달성하려는 정치적 목적과 국가 대전략을 구현하기 위한 하위 수단이다. 따라서 아무리 정교한 군사적 공격이라 하더라도, 그것이 국가의 정치적 목적을 훼손한다면 전략적으로 성공했다고 말하기 어렵다. 이 관점에서 2026년 2월 28일 이란 미나브의 한 학교가 미사일 공격을 받아 수많은 학생과 교직원이 사망한 사건을 바라볼 필요가 있다.

이란은 공격 현장에서 미국산 토마호크 미사일의 부품이 발견됐다고 주장했다. 이후 보도에서는 미국 군 내부의 초기 조사 역시 미군이 해당 공격에 관여했을 가능성을 검토하고 있으며, 오래된 표적정보가 사용됐을 가능성이 제기됐다(다만 미국 정부의 최종 조사 결과가 공개되지 않은 만큼, 현재 단계에서 공격 주체와 정확한 경위를 단정해서는 안 된다). 그럼에도 이 사건은 전술적 타격과 국가 전략이 어긋날 때 발생할 수 있는 위험을 충분히 보여준다.

* 클라우제비츠는 현실의 전쟁이 언제나 무제한의 폭력으로 치닫는 것은 아니라고 보았습니다. 정치적 목적과 외교적 계산, 인간의 한계와 우연이 폭력을 제약하기 때문입니다. 그는 이러한 실제의 전쟁을 ‘현실전쟁 Real War’으로 설명했고, 모든 외부적 제약이 사라진 채 상대를 완전히 굴복시키기 위해 폭력이 극단으로 치닫는 상태를 ‘절대전쟁 Absolute War’이라는 개념으로 구분했습니다.

만약 미군이 인근의 군사시설을 공격하려다 학교를 잘못 타격한 것이라면, 미사일은 명령받은 좌표를 향해 정상적으로 비행했을 수 있다. 비행경로와 유도 알고리즘, 방공망 회피, 폭발장치의 작동 같은 무기체계의 기술적 기능만 따진다면 시스템은 설계된 절차를 수행했을지도 모른다. 그러나 전쟁의 성과는 미사일이 좌표에 도달했는지만으로 판단할 수 없다. 학교 피격으로 다수의 어린이가 사망했다면, 그 공격은 국제사회의 비난을 불러오고 상대국 국민의 적개심을 강화하며, 외교적 해결 가능성을 낮추고 전쟁을 더 길게 만들 수 있다. 개별 교전의 기술적 성공이 국가 전략의 실패로 전환되는 것이다. 전술적으로 정확한 타격이 반드시 전략적으로 올바른 타격인 것은 아니다.

'교전 중심의 AI'는 미사일의 속도를 높이고 명중률을 개선할 수 있다. 그러나 그 공격이 외교 관계와 국제 여론, 상대국 사회의 감정, 전쟁의 종결 가능성에 어떤 영향을 줄 것인지는 교전 단계의 정보만으로 충분히 판단하기 어렵다. 이것은 교전 AI의 성능이 부족해서가 아니다. 애초에 그 판단은 교전 AI가 단독으로 떠안아야 할 종류의 문제가 아니기 때문이다. 전장의 최말단 체계가 국가의 정치적 목적과 전후 질서까지 모두 추론하도록 요구하는 것은, 무기체계에 지나치게 큰 가치 판단을 전가하는 일이다. 따라서 교전 AI의 상위에는 반드시 국가의 정치적 목적을 군사적 목표와 제한 조건으로 번역하고, 개별 타격이 그 목적과 계속 정렬되어 있는지 검증하는 구조가 존재해야 한다. 그 구조가 없다면 교전 AI는 눈앞의 표적을 정확히 제거하면서도, 국가가 전쟁을 시작한 본래의 목적을 훼손할 수 있다.

상위 대전략의 통제를 받지 않는 교전 중심 AI는 전쟁을 수행하는 도구가 아니라, 전쟁의 정치적 목적을 배신하는 부메랑이 될 수 있다.

질서를 만드는 법치주의, 그리고 구조의 본질

법치주의는 단순히 국가가 법으로 국민을 다스리는 것을 의미하지 않는다. 국가의 권력 역시 헌법과 법률이 정한 구조와 절차에 따라 행사되어야 한다는 원칙이다. 이를 위해 대한민국의 법체계는 다음과 같은 수직적인 위계 구조를 갖는다.

헌법: 최상위 효력을 갖는 국가의 최고 법으로 국민의 기본권과 국가 경영의 기본 구조를 담고 있다.
법률 - 입법: 국회에서 제정하는 법으로 헌법 아래에서 국민의 권리와 의무를 구체적으로 규정한다.
시행령 - 대통령령: 행정부(대통령)가 제정하는 명령으로 법률에서 위임받은 사항이나 이를 집행하기 위한 세부 사항을 정한다.
시행규칙 - 총리령 · 부령: 각 행정 부처(장관 등)가 제정하는 규칙으로 시행령보다 더 구체적인 서식, 절차, 행정 실무를 규정한다.
조례 및 규칙 - 자치법규: 지방자치단체와 지방의회가 제정하는 법규로 해당 지역 사회 내에서만 효력을 가진다.

굳이 이렇게 복잡한 위계 구조가 필요한 이유는 무엇일까? 국가가 추구하는 이상과 실제 현실 사이에는 언제나 거리가 존재하기 때문이다. 헌법은 우리가 어떤 국가와 사회를 지향해야 하는지를 선언한다. 그러나 행정기관과 지방자치단체가 마주하는 현실은 기술과 산업, 지역과 상황에 따라 끊임없이 달라진다. 이상은 쉽게 흔들려서는 안 되지만, 현실을 다루는 제도와 절차는 변화하는 환경에 맞추어 구체적으로 조정되어야 한다. 따라서 법체계는 최상위 가치가 현실 속에서 사라지지 않도록 하면서도, 각 단계가 자신이 마주한 문제를 해결할 수 있도록 권한과 책임을 나누어 놓았다. 헌법 아래의 모든 법률과 명령, 규칙은 현실의 문제를 구체적으로 해결하지만, 그 어떤 하위 규범도 헌법이 선언한 상위 가치에 반할 수 없다.

만약 법이 헌법적 이상을 잊고 오직 치안 유지와 사건 해결률만을 최우선 목적으로 삼는다면 어떻게 될까? 수사기관은 더 많은 사람을 더 빠르게 체포하고, 더 많은 사건을 처리하는 방향으로 움직일 수 있다. 그 과정에서 국민의 기본권과 적법절차는 업무 효율을 떨어뜨리는 장애물로 취급될 가능성이 있다. 사건 해결률은 높아질지 모르지만, 우리는 더 이상 그것을 헌법국가의 법 집행이라고 부르기 어려울 것이다.

전투 AI 역시 이와 다르지 않다. 지금 그리고 앞으로 다가올 미래 전쟁에서 우리가 당장의 현실에만 시야가 좁아져 ‘교전 중심의 AI’에 치중한다면, 전략의 목적과 전쟁의 목적, 그리고 우리가 전쟁을 통해 달성하려 했던 정치적 목적에 대한 질문을 잊은 채 클라우제비츠가 말한 ‘절대전쟁’의 방향으로 빨려 들어갈 수 있다.

교전을 넘어 전쟁의 본질을 이해하는 온전한 전투 AI

앞서 살펴본 '헌법 · 법률 · 시행령 · 시행규칙 · 자치법규'의 위계 구조는 헌법이라는 이상과 행정이라는 현실 사이의 간극을 연결하기 위한 설계다. 전장이라고 해서 그 본질이 다르지 않다. 전쟁을 통해 국가가 달성하려는 정치적 목적은 최상위의 방향이다. 반면 전장에서 발생하는 총격과 폭격, 개별 표적에 대한 공격은 가장 구체적인 현실의 행위다. 따라서 국가 지도자가 설정한 정치적 목적은 군사전략으로 번역되어야 하고, 군사전략은 작전과 전술을 거쳐 최말단 무기체계의 교전 행위까지 일관되게 전달되어야 한다. 만약 이러한 위계 구조가 온전히 유지되지 않는다면, 국가의 모든 자원과 에너지를 동원하는 전쟁은 아무런 정치적 의미를 갖지 못한 채 맹목적인 살상과 소모로 전락할 수 있다. 군율과 명령체계가 동서고금을 막론하고 엄격할 수밖에 없었던 이유도 바로 여기에 있다. 이 관점에서 진정한 전투 AI가 갖추어야 할 구조를 정립하면 다음과 같다.

국가 생존을 위한 전투 AI 5단계 모델

여기서 말하는 ‘국가의 생존’은 단순히 전투에서 승리하거나 국가 영토가 물리적으로 남아 있는 상태만을 의미하지 않는다. 평시의 대비와 억제, 위기 상황에서의 확전 관리, 전시의 통제된 무력행사, 종전과 전후 복구를 거쳐 다시 지속 가능한 평시로 돌아가는 전체 과정을 의미한다. 전쟁에서 살아남은 대한민국이 전쟁 이전의 헌법적 정체성과 민주적 질서, 국민의 삶을 계속 유지할 수 있을 때 비로소 국가가 생존했다고 말할 수 있다.

1 단계 - 국가 대전략(최상위 목적함수) / 이상과 가치의 영역

국가가 전쟁을 통해 무엇을 지키고, 어떤 상태에 도달하며, 전쟁 이후 어떤 국가로 생존할 것인지를 결정하는 최고 존엄의 방향이다. 단순히 적을 이기는 기술이 아니라, 확전의 한계와 종전 조건, 전후 대한민국의 생존성을 담은 최상위 함수다.
핵심 질문: 왜 싸우는가? 무엇을 지키기 위함인가? 언제 전쟁을 멈출 것인가? 살아남은 대한민국은 여전히 헌법이 지키려 했던 그 국가와 같은가?

2 단계 - 군 전략(번역 계층) / 정치적 목적의 군사적 번역

국가 대전략이 제시한 정치적 목적을 군사력으로 달성할 수 있는 구체적인 군사적 목표와 제한 조건으로 번역하는 단계다. 대전략을 기계적으로 반복하지 않고, 국가가 원하는 상태를 만들기 위해 무력의 강도를 조절한다. 외교 · 경제 · 통일 · 동맹과 전후 국가생존의 관점에서 군사전략을 점검한 뒤, 국가안보실과 국방부, 합동참모본부 및 각 군의 전략기획 조직이 이를 군사목표와 승리조건, 확전 한계와 금지선으로 구체화한다.
핵심 질문: 어떤 적 능력을 제거하고, 전후 질서를 위해 무엇을 보존할 것인가? 허용되는 전쟁의 범위와 절대 넘지 말아야 할 확전선은 어디인가?

3 단계 - 군 작전(설계 계층) / 전술 행동의 전략적 묶음

군 전략이 설정한 군사적 목표를 특정 시간과 공간에서 달성하기 위해, 다양한 전력과 개별 전투들을 거시적으로 조직하고 연결하는 설계 단계다. 군 전략이 ‘무엇을 달성할 것인가’를 정한다면, 군 작전은 ‘여러 전투를 어떤 순서와 조합으로 수행할 것인가’를 설계한다. 육 · 해 · 공군 · 해병대뿐 아니라 사이버와 우주, 정보 · 전자전 전력을 어떻게 통합할 것인지, 전력과 자원을 어느 지역과 시점에 집중할 것인지 결정한다. 또한 개별 교전의 결과가 누적되면서 국가 대전략과 종전 조건에서 멀어지고 있지는 않은지 지속해서 검산해야 한다.
핵심 질문: 어느 전구에 전력을 집중하고 어떤 순서로 움직일 것인가? 육 · 해 · 공 · 해병대 · 사이버 · 우주 전력을 어떻게 연계할 것인가? 누적된 교전 결과가 국가의 종전 조건과 여전히 정렬되어 있는가?

4 단계 - 군 전술(실행 방식 구체화) / 현장 상황에 따른 유연성

작전목적을 달성하기 위해 현장의 부대와 무기체계를 어떤 방식으로 운용할 것인지 결정하는 단계다. 전술은 상위 명령을 기계적으로 반복하는 것이 아니다. 지형과 날씨, 통신 상태, 민간인의 존재와 적의 움직임 등 현장의 변수를 고려해, 상위 목적을 훼손하지 않는 범위 안에서 수행방식을 조정하는 과정이다. 현장 지휘관과 전술 AI는 공격과 방어, 우회와 기만, 임무 연기와 철수 가운데 가장 적절한 방법을 선택할 수 있어야 한다. 그러나 작전목적과 현장 현실이 충돌한다면 임의로 상위 목적을 바꾸는 것이 아니라, 판단을 상위 단계로 반환하고 재승인을 요청해야 한다.
핵심 질문: 공격 · 방어 · 우회 · 기만 중 어떤 방법을 택할 것인가? 현장 상황에 따라 임무를 연기할 것인가? 작전 목적과 현장 현실이 충돌할 때 상위 판단을 요청할 것인가?

5 단계 - 군 교전(최하위 물리적 행위) / 현실과 타격의 영역

특정 시점에 특정 표적을 대상으로 실제 무력을 사용할 것인지 최종 판단하고 쏘는 가장 구체적인 실행 단계다. 교전 AI와 무인체계는 부여받은 임무와 교전규칙 안에서 표적을 탐지하고 식별하며, 공격을 제안하거나 허용된 범위 안에서 무력을 사용할 수 있다. 그러나 교전 AI는 자신에게 부여된 임무의 목적과 금지선, 교전규칙을 스스로 변경하거나 확대할 권한을 가져서는 안 된다. 통신이 끊기거나 표적의 성격이 불명확해지고, 상위 명령과 현장 정보가 충돌할 경우에는 임무 권한이 자동으로 축소되어야 한다. 필요하다면 공격을 보류하고 인간 지휘체계에 판단을 반환해야 한다.
핵심 질문: 이 대상이 실제 적인가? 민간 피해 위험은 허용 범위 안인가? 공격을 보류하거나 중단해야 하는가? 이 타격이 상위 목적 및 교전규칙(ROE)과 충돌하지 않는가?

구조적 통제의 대원칙

모든 하위 단계는 상위 목적을 구체화하기 위해 존재한다. 그러나 그 어떤 하위 단계도 상위 목적을 스스로 변경하거나, 자신의 성과를 높이기 위해 상위의 제한 조건을 제거할 권한은 없다. 동시에 상위의 명령이 아래로 일방적으로 전달되는 것만으로는 부족하다. 현장의 정보와 교전 결과, 명령 간의 충돌과 예상하지 못한 위험은 아래에서 위로 다시 전달되어야 한다. 상위 단계는 그 정보를 바탕으로 전략과 작전의 타당성을 재검토하고 필요하다면 명령을 수정해야 한다. 목적과 권한은 위에서 아래로 내려가고, 현실과 결과, 이의제기와 책임은 아래에서 위로 올라가야 한다.

우리가 만들어야 할 진정한 전투 AI의 미래는 바로 이 구조 안에 있다. 눈앞의 표적만을 바라보는 맹목적인 '교전 중심 AI'에서 벗어나, 국가의 목적과 군사전략, 작전과 전술, 교전이 하나의 위계 안에서 정렬되는 구조적 아키텍처를 만드는 것이다. 그 안에서 전투 AI는 전장의 최말단에서 가장 신속하고 합리적인 판단을 수행하면서도, 국가의 정치적 목적과 헌법적 가치를 임의로 변경하거나 배신하지 않아야 한다. 이것이 클라우제비츠가 경고한 절대전쟁의 방향으로 폭력이 폭주하는 것을 막고, 전쟁의 본질을 온전히 이해하는 '신뢰 가능한 전투 AI'로 나아가는 길이다.

구조적 접근이 만들어 내는 힘

그렇다면 우리는 단순히 ‘신뢰’와 ‘윤리’라는 도덕적 명분만을 위해 군사 AI에 이러한 구조적 접근을 적용해야 할까? 아니다. ‘국가 생존을 위한 전투 AI 5단계 모델’이라는 구조를 도입하는 순간, 군사적 승리를 넘어 국가안보 체계 전체를 혁신할 수 있는 힘이 생겨난다.

1. 진정한 문민 통치

군은 태생적으로 극도의 압박과 보안 속에서 움직이는 조직이다. 따라서 일정한 폐쇄성과 기밀성은 군사조직이 유지되기 위한 필수 조건이다. 문제는 압도적인 물리력을 가진 군의 폐쇄성을 민주국가가 어떻게 통제할 것인가에 있다. 군의 활동을 모두 투명하게 공개하면 국가기밀과 작전 보안이 훼손될 수 있다. 반대로 보안을 이유로 모든 판단과 책임을 군 내부에만 남겨둔다면, 국가 권력이 잘못된 방향으로 행사될 때 이를 검증하기 어려워진다. 이 딜레마를 해결하는 열쇠가 바로 구조다.

국가 대전략이 군 전략의 최상위 기준으로 작동하고, 전략 · 작전 · 전술 · 교전의 각 단계가 명확한 권한과 책임을 가진다면 군의 행동을 무작정 공개하지 않고도 민주적 통제를 수행할 수 있다.

누가 국가의 목적을 정했는가?
누가 그것을 군사목표로 번역했는가?
누가 작전을 승인했는가?
누가 전술적 방법을 선택했는가?
누가 최종 교전을 허가하고 수행했는가?

이 질문에 각 단계가 답할 수 있어야 한다. 특히 국가 대전략이 국군통수권자인 대통령에 의해 수립되고, 헌법과 법률, 국회의 통제 아래 공식적인 국가 의지로 형성된다면 전투 AI는 기술적 복잡성과 군사기밀 뒤에 숨어 책임을 회피하기 어려워진다. 여기서 국회의 역할은 단순히 국방 예산을 승인하는 데 그치지 않는다. 국회는 전투 AI의 내부 알고리즘을 모두 열람하지 않더라도, 각 단계의 권한과 명령이 적법하게 형성되고 전달됐는지, 예외와 변경 사항이 기록됐는지, 교전 결과가 상위 목적에 부합했는지를 감사할 수 있다.

국가 대전략 단계에서는 ' 대통령과 국회 등 국민의 선출을 통해 민주적 정당성을 부여받은 헌법기관과, 이를 보좌하는 참모 조직'이 무력행사의 목적과 법적 근거, 확전 한계와 종전 조건을 점검할 수 있다.
군 전략 단계에서는 '국가안보실과 국방부, 합동참모본부가 함께 정치적 목적을 군사적 목표로 번역'하는 과정에서 의미를 왜곡하거나 누락하지 않았는지 확인할 수 있다.
군 작전 단계에서는 '합동참모본부와 전구 · 작전사령부를 비롯한 합동작전 지휘조직이 중심'이 되어, 여러 전투와 전력을 어떤 시간과 공간, 순서와 조합으로 운용할 것인지 설계한다. 또한 누적된 교전 결과가 군 전략과 국가의 종전 조건에 여전히 정렬되어 있는지, 민간 피해와 기반시설 훼손, 확전 위험이 설정된 범위를 넘어가고 있지는 않은지 지속적으로 점검한다.
군 전술 단계에서는 '현장 부대 지휘관과 전술제대, 유 · 무인 복합전투체계의 임무 지휘자가 중심'이 되어 지형과 날씨, 통신 상태, 민간인의 존재와 적의 움직임에 맞게 구체적인 수행방식을 결정한다. 이들은 상위 작전목적을 훼손하지 않는 범위 안에서 공격·방어·우회·기만·임무 연기와 철수를 선택할 수 있지만, 현장 현실과 상위 명령이 충돌할 경우 판단을 임의로 확대하지 않고 상위 단계에 재판단을 요청해야 한다.
군 교전 단계에서는 '교전 승인권자와 무기 운용자, 제한된 권한을 부여받은 교전 AI 및 무인체계'가 실제 무력행사를 수행한다. 이 단계에서는 명령의 발신자와 승인권자가 적법하게 인증됐는지, 표적 식별과 교전규칙이 충족됐는지, 인간의 중지 명령이 모든 자동화된 판단보다 우선하도록 설계됐는지 확인해야 한다. 또한 통신 두절이나 정보 충돌 상황에서 권한이 확대되지 않고 자동으로 축소되는지, 임무의 수신과 승인, 변경과 중단, 최종 교전 결과가 모두 기록되는지를 검증할 수 있다.

구조화된 전투 AI는 곧 구조화된 민주적 통제를 가능하게 한다. 명령은 행정부와 군을 통해 아래로 내려가지만, 그 명령의 정당성과 결과는 입법부의 검증을 거쳐 다시 시민에게 돌아와야 한다. 이것이 국가의 물리력을 AI에 위임하는 시대에 필요한 진정한 문민통제다.

2. 구조가 만드는 임파워먼트(권한이양)

군은 전시라는 극단적인 상황을 가정해 움직이는 조직이다. 전쟁이 시작되면 명령체계는 일사불란하게 작동해야 한다. 그러나 일사불란함은 모든 판단을 상급기관이 직접 통제할 때 만들어지는 것이 아니다. 오히려 현장 지휘관과 무기체계가 자신의 임무와 권한, 절대로 넘어서는 안 되는 한계를 명확히 이해할 때 신속한 판단이 가능하다. 상급기관이 불완전한 명령으로 하급기관의 모든 행동을 일일이 통제한다면 의사결정은 늦어지고, 통신망에 과도하게 의존하게 된다. 반대로 하급기관이 상급기관의 의도를 제대로 이해하지 못한 채 독자적으로 움직인다면, 개별 전투에서는 승리하더라도 전체 전쟁의 목적을 훼손할 수 있다.

‘국가 생존을 위한 전투 AI 5단계 모델’은 이 두 위험 사이의 경계를 명확히 한다. 즉, '지시할 것'과 '수행할 것'의 경계가 바로 서는 것이다.

국가 대전략은 왜 싸우는지와 무엇을 지켜야 하는지를 결정한다.
군 전략은 무엇을 달성하고 무엇을 제한해야 하는지를 정한다.
군 작전은 여러 전투를 어떤 순서와 조합으로 묶을 것인지를 설계한다.
군 전술은 현장 상황에 맞추어 수행 방법을 선택한다.
군 교전은 승인된 권한 안에서 실제 물리력을 행사한다.

각 단계가 자신의 권한과 책임을 알고 있다면, 상위기관은 하위기관의 모든 행동을 직접 지시하지 않아도 된다. 하위 단계 역시 목적과 금지선을 명확히 이해하고 있기 때문에 현장의 변화에 맞추어 빠르게 판단할 수 있다. 이것이 구조가 만드는 진정한 권한이양이다. 단, 권한이양은 무제한적인 자율성을 의미하지 않는다. 현장 AI와 무인체계가 상위 목적과 충돌하는 상황을 발견했다면, 임의로 목적을 수정하거나 새로운 임무를 만들어서는 안 된다. 판단을 보류하고 상위 단계로 반환하거나, 사전에 설정된 안전한 상태로 전환해야 한다. 통신이 끊겼다고 해서 권한이 확대되어서도 안 된다. 오히려 통신과 정보의 신뢰도가 낮아질수록 사용할 수 있는 무력의 범위는 축소되어야 한다.

좋은 지휘체계는 모든 행동을 통제하는 구조가 아니라, 각 단계가 어디까지 판단할 수 있는지를 명확히 알려주는 구조다.

이러한 구조가 갖추어질 때 군은 전장의 혼란 속에서도 신속하게 명령을 내릴 수 있다. 동시에 최말단의 교전이 전쟁의 본질과 국가의 목적에서 이탈하지 않도록 통제할 수 있고, 사후에는 교전 결과가 국가 대전략에 얼마나 부합했는지를 평가하고 다시 상위 단계에 반영할 수 있다. 그리고 이런 선순환은 AI가 가진 본연의 능력에 의해 더 완성도가 높아진다.

3. 더 많은, 하지만 더 전문적인 기업들의 참여

현재 주류를 이루는 '교전 중심 AI'의 치명적인 한계는 현장의 '사실 판단'뿐 아니라, 그 타격이 가져올 정치적 '가치 판단'까지 최말단 무인체계에 떠넘기려 한다는 점이다.

적의 위치는 어디인가?
어떤 장비가 적의 무기인가?
표적 식별의 신뢰도는 얼마인가?

이러한 질문은 센서와 데이터, 무기체계가 담당할 수 있는 '사실 판단'의 영역이다. 그러나 그 표적을 지금 제거하는 것이 전쟁의 종결에 도움이 되는가, 전후 질서를 위해 보존해야 하는 대상은 무엇인가, 해당 공격이 외교와 동맹, 국제사회에 어떤 영향을 미치는가는 전혀 다른 '가치 판단'의 영역이다. 오직 타격 효율을 높이도록 설계된 교전 AI에게 이 모든 국가적 판단을 동시에 요구하는 것은 구조적으로 불가능하다. 그러나 '국가 생존을 위한 전투 AI 5단계' 모델을 도입하면 가치 판단과 사실 판단이 서로 다른 계층에서 수행될 수 있다. 이를 통해 모든 기업이 전투 AI 전체를 개발하지 않고도, 각자의 전문성을 살려 방산 생태계에 참여할 수 있다.

예를 들어 네이버와 같은 AI · 클라우드 기업은 직접 전차나 미사일을 만들지 않는다. 그러나 국가 대전략과 군 전략 사이에서 정치적 목적과 금지선, 우선순위와 종전 조건을 AI와 군사조직이 이해하고 검산할 수 있는 형태로 구조화하는 시스템은 개발할 수 있다. 네이버가 국가의 전략을 결정하거나 군을 지휘한다는 뜻이 아니다. 국가가 정당한 절차를 통해 결정한 전략을 기계와 조직이 오해하지 않도록 형식화하고, 서로 다른 단계의 명령이 충돌하지 않는지 검증하며, 변경 이력과 승인 권한을 기록하는 역할을 맡을 수 있다는 뜻이다. 빅테크의 역할은 국가 전략을 결정하는 것이 아니라, 국가 전략이 군사적 번역 과정에서 증발하지 않도록 형식화하는 것이다.

반대로 현대로템과 한화, 한국항공우주산업, HD현대중공업과 같이 실제 무인체계와 무기 플랫폼을 개발하는 기업은 기동과 탐지, 방어와 타격 능력을 고도화하는 데 전문성을 집중할 수 있다. 그러나 이들이 오직 교전 효율만을 고려하면 된다는 뜻은 아니다. 무인체계는 상위 단계에서 전달된 임무의 목적과 권한, 금지선을 정확히 받아들일 수 있어야 한다. 명령을 내린 주체와 승인 권한을 확인할 수 있어야 하며, 임무 목적과 수단, 공격 대상과 보존 대상이 분리된 형태로 전달되어야 한다. 새로운 정보가 발생하면 공격을 중지하거나 판단을 상위 단계로 반환할 수 있어야 한다. 인간의 중지 명령은 다른 모든 명령보다 우선해야 하며, 통신 두절과 명령 충돌이 발생하면 권한을 자동으로 축소해야 한다. 임무의 수신과 승인, 변경과 수행, 중단과 결과는 사후 검증이 가능하도록 기록되어야 한다. 즉, 방산기업은 상위의 가치 판단을 직접 수행하지 않더라도, 그 판단을 안전하게 받아들이고 거부와 중지, 반환과 감사를 가능하게 하는 인터페이스를 설계해야 한다.

이러한 구조적 역할 분담은 개별 기업의 책임도 더욱 명확하게 만든다. 국가 대전략의 오류를 무인차량 개발기업에 떠넘길 수 없고, 무기체계의 중지 기능 결함을 국가 전략의 문제로 돌릴 수도 없다. 각 기업은 자신이 맡은 단계의 성능과 안전성, 명령 인터페이스와 기록 책임을 분명하게 질 수 있다. 결국 이 구조는 방산 생태계의 문턱을 낮추는 동시에 책임의 경계를 더 엄격하게 만드는 산업 전략이다.

대한민국이 가진 AI와 클라우드, 반도체와 통신, 조선과 항공, 자동차와 로봇 기술을 하나의 거대한 기업에 몰아넣는 대신, 서로 다른 전문기업들이 명확한 구조와 표준 인터페이스를 통해 참여할 수 있게 한다. 모든 기업이 전투 AI의 전체 철학을 구현할 필요는 없다. 그러나 언젠가 상위 목적과 인간의 책임 구조가 연결될 수 있도록 기술적 · 조직적 여백은 반드시 남겨두어야 한다. 언젠가 반드시 마주하게 될 본질이 들어올 자리를, 오늘의 기술 안에서 지워버리지 않는 일이다.

미국과 중국 같은 강대국은 압도적인 군사력과 외교적 영향력, 경제적 체력을 바탕으로 전장의 지배력을 우선시하는 '신속한 교전 능력의 전투 AI'를 발전시킬 가능성이 크다. 그들의 기술과 교리는 대한민국에도 중요한 참고가 된다. 그러나 그 구조를 그대로 받아들이는 것이 곧 한국에 적합한 전투 AI를 만드는 일은 아니다. 패권국은 해외에서 수행한 전쟁이 실패하면 병력을 철수하고 전략적 방향을 전환할 수 있다. 그러나 대한민국은 한반도에서 철수할 곳이 없다. 전쟁이 발생하면 우리는 파괴된 도시와 기반시설, 무너진 경제와 사회, 주변국과의 관계, 전쟁 이후의 국가 질서를 이 땅에서 직접 감당해야 한다.

따라서 대한민국의 전투 AI는 눈앞의 교전에서 얼마나 많은 적을 제거했는지만을 승리로 계산해서는 안 된다. 무력 충돌을 억제하고, 불가피한 충돌이 발생했을 때 확전을 통제하며, 필요한 최소한의 무력으로 정치적 목적을 달성하고, 종전 뒤 국가가 다시 회복 가능한 상태로 남도록 해야 한다. 그런 의미에서 대한민국이 추구해야 할 것은 ‘얼마나 많이 파괴할 수 있는가’를 경쟁하는 교전 중심의 AI가 아니다. 얼마나 적게 파괴하면서도 국가의 목적을 달성할 수 있는가를 판단하는 AI다. 전쟁의 본질은 파괴 그 자체가 아니다.

그러므로 지금의 '교전 중심 AI'만으로는 부족하다. 국가 대전략과 군 전략, 작전과 전술, 교전이 하나의 구조로 연결되어야 한다. 시민의 위임과 헌법적 가치가 대통령과 국회, 국가안보실과 군의 전략조직을 거쳐 최말단의 무인체계까지 전달되어야 한다. 반대로 현장의 현실과 교전 결과, 오류와 이의제기는 다시 위로 올라가 국가의 판단을 수정할 수 있어야 한다. 이 구조를 2030년대 전투 AI 시대가 본격적으로 시작된 뒤에 만들려고 하면 늦다. 무인체계의 명령 구조와 권한 체계, 통신 방식과 데이터 형식, 중지 기능과 책임 기록은 지금 개발되는 시스템 안에서 이미 굳어지고 있기 때문이다. 기술이 완성된 뒤 윤리 규정과 안전장치를 덧붙이는 방식으로는 구조적 결함을 해결하기 어렵다.

그래서 2030년대의 전투 AI를 통제하려면 지금 2020년대에 통제 가능한 구조부터 만들어야 한다. 특히 같은 시기에 추진되고 있는 전시작전통제권 전환은 이 과제를 전투 AI의 지휘 구조와 분리해 생각할 수 없게 만든다. 전작권 전환이 한국군이 전시에 한미 연합방위를 주도할 수 있는 지휘체계를 갖추는 일이라면, 국가 생존을 위한 전투 AI 구조는 그 지휘권에 담긴 국가의 판단이 국가 대전략에서 최말단 무인체계까지 온전히 전달되도록 만드는 실질적인 지능 기반이다. 이 두 구조를 지금 함께 설계하지 않는다면, 훗날 이미 굳어진 무인체계와 데이터 형식, 작전 절차와 연합지휘 구조를 다시 해체하고 연결하는 데 몇 배, 어쩌면 수십 배의 노력이 필요할 수 있다.

대한민국이 전장의 최말단에서 기계적으로 승리하는 것에 취하지 않고 전쟁을 수행하는 목적을 끝까지 기억하는 AI를 가질 때, 그리고 눈앞의 교전 승리를 넘어 국가의 영속성과 헌법적 정체성, 전쟁 이후 국민의 삶까지 보존하는 단단한 위계 구조를 완성할 때, 비로소 대한민국은 강대국이 만든 교전 중심의 전투 AI 패러다임을 그대로 추종하지 않고 우리의 조건과 생존 방식에 맞는 '독자적인 전투 AI' 체계를 가질 수 있다.

그리고 이러한 구조가 전시작전통제권 전환과 함께 완성될 때, 우리는 단순히 우리의 무력을 직접 지휘할 권한을 넘어 언제, 왜, 어디까지 무력을 사용하고 멈출 것인지를 우리 스스로 결정할 진정한 자유를 얻게 될 것이다.

* 이미지는 구글 검색입니다(사진 1, 사진 2).

저작자표시 비영리 변경금지 (새창열림)

'윤's > Chat GPT & AI' 카테고리의 다른 글

그들이 보는 AI 안전 표준 기구의 미래, NPT 그리고 IAEA (3)	2026.07.20
AI 시대 기업 경제연구소의 재발견: 함대 CEC의 근간이 되는 힘 (0)	2026.07.13
아폴로 프로젝트에서 배우는 대한민국 3대 메가 프로젝트의 성공 조건 (0)	2026.07.06

윤의 전략 창고