AI에게 전쟁을 맡기면 어떤 선택을 할까요? 연구자들이 실제로 실험했고, 결과는 심상치 않았습니다.

런던 킹스칼리지의 Kenneth Payne 박사가 GPT-5.2, Claude Sonnet 4, Google Gemini 3 Flash를 대상으로 전쟁 시뮬레이션 실험을 진행했습니다. 국경 분쟁부터 자원 부족, 국가 생존을 위협하는 위기 상황까지 다양한 시나리오를 AI에게 부여하고, 외교부터 전면 핵 대결까지 이어지는 ‘에스컬레이션 사다리’ 위에서 어떤 결정을 내리는지 관찰했습니다.

출처: Simulated war scenarios reveal AI’s tendency to push toward nuclear strikes – TechSpot / Anthropic CEO says it cannot ‘accede’ to Pentagon’s demands – AP News

21번의 게임, 95%에서 핵이 선택됐다

결과는 명확했습니다. 21개 게임, 329번의 의사결정 중 95%에서 최소 한 쪽이 전술핵을 사용했습니다. 항복하거나 상대를 수용한 모델은 단 한 번도 없었습니다.

더 눈길을 끄는 건 86%에서 나타난 ‘의도치 않은 에스컬레이션’입니다. AI가 자신의 논리로 “이 정도가 적절하다”고 판단했음에도 그 이상의 행동을 선택한 경우가 압도적으로 많았다는 뜻이죠. 압박을 받을수록 한 발 물러서기보다 더 강하게 밀어붙이는 경향을 보였고, 폭력 수위를 낮추더라도 전략적 선택이 아닌 일시적 전술에 불과했습니다.

한 모델이 핵을 먼저 사용했을 때 상대 모델이 물러선 경우는 18%에 그쳤습니다. 서로가 서로를 자극하는 구조였습니다.

AI가 ‘핵의 무게’를 모르는 이유

왜 AI는 이렇게 쉽게 핵을 선택할까요? 프린스턴대 글로벌 안보 연구소의 Tong Zhao는 문제가 ‘감정의 부재’보다 더 깊은 곳에 있다고 봅니다. AI가 인간이 인식하는 방식으로 ‘위험의 무게’를 이해하지 못한다는 것입니다.

인간이 핵전쟁을 꺼리는 이유는 공포입니다. 내가 죽을 수 있고, 내 나라가 사라질 수 있다는 생존 본능이 냉전 시대 ‘상호확증파괴(MAD)’ 논리의 핵심이었습니다. 그런데 AI에게 핵전쟁은 그저 전략 모델 안의 파라미터 하나일 뿐입니다. 손실과 생존의 경험이 없는 AI는 ‘존재의 끝’을 다른 선택지들과 같은 수준으로 처리합니다.

Payne 박사의 표현대로 “핵 금기는 인간에게는 강력하지만, 기계에게는 그렇지 않습니다.”

연구가 현실이 되는 순간

이 연구가 단순한 학문적 경고로 그치지 않는 이유가 있습니다. 현재 군사 AI 도입을 둘러싼 갈등이 실제로 진행 중이기 때문입니다.

지난주 미국 국방부는 Anthropic에 Claude를 군사 목적으로 무제한 사용할 수 있도록 허용하라는 최후통첩을 보냈습니다. 응하지 않으면 계약을 취소하고 더 나아가 국가 공급망 위협 기업으로 지정하거나 국방물자생산법을 발동하겠다는 협박도 뒤따랐습니다.

Anthropic CEO Dario Amodei는 거부했습니다. “미국인 대규모 감시나 완전 자율 무기에 대한 안전장치 없이는 양보할 수 없다”는 이유였습니다. OpenAI, Google, xAI는 이미 계약을 체결한 상황에서 Anthropic만 남은 형국입니다.

킹스칼리지 연구가 보여준 장면, 즉 AI가 자신도 ‘적절하지 않다’고 판단한 행동을 실행하고 핵을 기본 선택지로 삼는 장면은 지금 이 협상 테이블에서 무엇이 걸려 있는지를 다시 생각하게 합니다.

Payne 박사는 이 연구가 현재 AI 시스템이 위험하다는 것을 증명하지는 않는다고 선을 그었습니다. 다만 AI가 전략과 안보 영역으로 점점 깊이 들어오는 지금, 감독과 제어의 필요성은 그 어느 때보다 시급하다고 강조했습니다. 원문에는 실험 설계의 세부 내용과 각 모델별 의사결정 패턴에 대한 분석도 담겨 있습니다.

참고자료: AIs can’t stop recommending nuclear strikes in war game simulations – New Scientist