AI가 만드는 하이브리드 협업의 시대에서 지켜야 할 것들

- 관련 기사

• [Why&Next]게임사 크래프톤은 왜 방산회사랑 손잡았나(link)

 

 

한국의 대표 방위산업 기업 한화와 한국의 대표 게임 회사 크래프톤이 AI를 중심으로 협력하기로 했다. 바로 전쟁터라는 공간을 중심으로 말이다. 크래프톤의 대표 IP 배틀그라운드는 총알이 빗발치는 전장을 다룬다. 이 전장에서 사용자가 내리는 판단과 행동은, 방산 기업이 현실에서 얻기 어려운 데이터를 제공할 수 있다. 가상의 전장에서의 판단과 결과는, 현실 전장에서 인간이 하게 될 행동의 일부이기 때문이다. 이런 인식을 공유했기에 한화와 크래프톤은 협력을 선택했을 것이다. 하지만 여기서 한 가지 질문이 생긴다. 겉보기에는 매우 훌륭해 보이는 이 데이터는, 정말 AI 학습에 충분한 것일까?

 

FPS(First-Person Shooter, 1인칭 슈팅 게임). 레인보우 식스 같은 택티컬 슈터 장르(사실성, 전략성, 짧은 TTK_Time To Kill를 강조하는 스타일), 배틀그라운드 같은 배틀로얄 장르(구체적인 게임 방식과 승리 조건)가 있겠지만 근본은 FPS로 사용자가 가상의 환경에서 높은 상황 압박을 뚫고 무기 조작을 통해 생존해야 하는 게임이다. 그 과정에서 아주 깔끔한 흐름이 만들어진다. 환경적 '압박'(전장의 구조적, 지형적, 날씨 환경)과 무기의 압박(사용하는 총기와 보급 등)에 따라 사용자가 '어떤 판단'을 하고 그 판단에 따른 '결과'가 남는다. 이 데이터가 있다면 AI는 행동의 방향을 이해할 수 있고 학습을 통해 어떻게 행동해야 할지 틀을 만들 수 있다. 하지만, 이 구조에는 본질적인 한계가 존재한다.

 

 

지금의 FPS 게임들은 발전한 물리 엔진과 하드웨어 성능을 바탕으로 무기와 환경을 매우 정밀하게 재현한다. 그래서 생성되는 데이터는 겉으로 보기에는 매우 현실적이다. 그러나 게임의 현실성은 어디까지나 ‘재현’일 뿐, 실제 전장을 그대로 담아내지는 못한다. 예를 들어 워썬더에서 2차 대전 독일의 타이거 전차와 현대의 레오파드 전차가 맞붙는 상황을 생각해보자. 게임에서는 충분히 가능하지만, 현실에서는 성립하지 않는 상황이다. 결국 게임에서는 밸런스를 위해 인위적인 조정이 들어간다. 또 다른 문제도 있다. FPS 게임의 죽음은 진짜 죽음이 아니다. 일정 시간이 지나면 다시 살아나는 리스폰 구조가 존재한다. 이 전제 조건 때문에 사용자는 현실에서는 할 수 없는 행동을 선택할 수 있다. 겉으로는 현실적인 스펙을 갖추고 있지만, 그 내부에는 게임적 조정이 개입된 비현실이 공존한다. 이 충돌이 바로 게임 데이터를 AI 학습에 그대로 활용하기 어려운 이유다.

 

그렇다면 관점을 바꾸면 어떨까? 게임 데이터를 AI가 학습하는 것이 아니라, 방산 기업의 AI가 직접 게임에 들어와 판단을 수행하는 구조다. 즉, AI가 NPC로 참여하여 사용자와 상호작용을 하며 판단 구조를 학습하는 방식이다. 이때 AI가 배우는 것은 단순한 전술이 아니다. 인간이라는 변수 자체다. 여기서 등장하는 것이 바로 ‘트롤링(Trolling)’이다. 트롤링은 팀의 승리를 방해하거나, 타인의 불쾌감을 유발하는 의도적인 행동을 의미한다. 이러한 행동은 현실 전장에서도 반드시 발생할 수밖에 없는 인간 변수다. 다만 그 규모와 형태가 다를 뿐이다. 하지만 이런 행동을 실제 전장에서 학습하는 것은 불가능하다. 그것은 전쟁을 실험으로 사용하는 것과 다르지 않기 때문이다. 그래서 게임이라는 환경이 의미가 있다. 게임은 인간의 예측 불가능한 행동을 안전하게 검증할 수 있는 유일한 공간이다.

---

이제 시선을 방산 기업으로 옮겨보자. AI를 어떻게 학습할 것인가의 문제를 넘어서, 이제는 AI를 어떻게 사용할 것인가의 문제로 이어진다. 기업 중심의 AI는 효율, 성능, 승리에 최적화되어 있다. 하지만 클라우제비츠의 "전쟁은 다른 수단에 의한 정치의 연속일 뿐이다."를 알아야 한다. 전쟁을 수행하는 것은 기업이 아니라 국가이며 이는 정치적 수단으로서 국가의 의지를 드러낸다. 그리고 이는 국격을 보여주기도 한다. 여기서 중요한 질문이 등장한다. 만약 전쟁의 방식이 기업의 판단으로 결정된다면, 그것은 여전히 국가의 전쟁일 수 있을까?

 

- 관련 기사

• 이 대통령, 이스라엘 軍 아동학대 영상에 "유태인 학살과 전시 살해는 다를 바 없어"(link)

 

방산 기업의 AI가 만약 임무 수행 중 비인도적인 행동을 했을 때 그것이 방산 기업의 책임이 될까? 아니면 국가의 책임이 될까? 국가는 "기업이 납품하는 대로 썼으니, 기업의 문제입니다."라고 책임을 미룰 수 있을까? 기업은 "우리는 납품만 하지 쓰는 건 국가인데 저희가 어떻게 하나요?"라고 책임을 미룰 수 있을까?

 

전쟁의 주체는 국가고 전쟁은 정치의 수단이다. 그렇기에 방산 기업의 AI는 반드시 국가 의사 안에서 작동해야 하고 이는 극한 상황에서도 유지되는 행동 기준을 선행적으로 만들어야 한다는 뜻이 된다. 그렇기에 앞서 말한 게임 회사와 방산 회사의 협업으로 만들어지는 AI는 다시 한번 국가의 검증 기준을 통과해야 하며 난 그 상황을 평가할 가장 좋은 환경이 KCTC(Korea Combat Training Center, 육군 과학화 전투 훈련단)라고 생각한다. 첨단 장비를 활용해 실전과 가장 유사한 환경에서 전투 훈련을 수행하는 이곳에서 방산 회사의 AI가 내리는 판단을 전투 훈련에 적용함으로써 방산 회사 AI의 판단에 대한 적절성을 미리 확인하는 것이다. 특히나 실전이 아닌 만큼 피지컬 AI를 투입해서 그 상호작용을 관찰하는 것도 부담이 덜하다.

---

한화의 고민은 결국 하나로 귀결된다. AI를 어디까지 맡길 것인가의 문제다.

• AI가 필요하다는 것은 확정인데 어디까지 맡길 것인가에 대한 불확실성이다.
• 반사적 작동에 대한 AI의 판단 권한 범위와 인간의 승인 범위는 어떻게 되어야 하는가?
• 기업이 전쟁을 수행하지 않는 상황에서 윤리 vs 효율의 충돌을 어떻게 조율해야 하는가? 이는 특히나 국격과 연관되는 부분이다.
• 인간 변수를 어떻게 봐야 하는가? 게임에서도 등장하는 트롤짓이 전장에서도 나올 확률은 100%다. 다만 그 규모의 문제일 뿐이지. 그런 트롤짓을 AI가 어떻게 다뤄야 아군의 피해를 최소화하면서 인간과 AI의 상호 신뢰에 금이 가지 않게 관리하는가의 문제다.

 

크래프톤이 마주한 문제는 더 복잡하다.

• 게임을 활용해 방산 기업 AI로 확장할 수 있다. 하지만 그 근간은 게임이다. 그렇다면 사용자는 이 상황을 받아들이고 협조할까? 게임으로서의 정체성이 무너지면 게임을 활용한 AI 확장은 물 건너간다.
• 앞서 게임 데이터로 AI를 학습시키는 것이 아니라 AI를 NPC로 활용하여 사용자와 협업을 통한 과정으로 학습해야 한다고 했다. 그러면 사용자 관점에서 AI NPC가 너무 잘하면 좀 불쾌하다. '내가 시간 들여서 하는 사용자인데 난 뭐지?' 이 감정이 들거다. 하지만 AI NPC가 또 너무 못하면 'AI 트롤짓에 내가 뒤치닥질만 하다 끝나네.' 하는 감정이 들 거다. 사람처럼 행동하되 AI임을 숨기고 사람인 척 하면 그것도 곤란하다. 이 균형을 다 유지하는 게임 UX를 만드는 건 쉽지 않다.
• 데이터와 재미의 균형을 유지하는 게임 UX도 쉽지 않은 문제다. 방산 기업 AI의 학습을 위한 시나리오는 필연적으로 존재한다. 하지만 그 시나리오가 사용자의 재미를 보장한다는 건 어디에도 없다. 학습을 위한 필연적인 시나리오를 넣지만, 사용자의 재미가 사라져 게임을 떠나면 의미가 없는 이 상황을 절묘하게 조절하는 균형점을 UX로 만드는 건 쉽지 않다.

---

도구가 강력할수록 본질은 쉽게 가려진다. AI가 모든 것을 해결해 줄 것이라는 기대 때문이다. 하지만 이번 한화와 크래프톤의 협력은 오히려 반대의 질문을 던진다. 우리는 무엇을 할 수 있는가가 아니라, 무엇을 해야 하는가를 먼저 정의해야 한다는 질문이다. 그래야만 이 구조가 실제 전장에서 작동할 때, 국가의 운명을 맡길 수 있는 신뢰를 얻을 수 있을 것이다.

 

 

 

* 이미지는 서비스 회사 공식 사이트입니다(사진 1).