지난 주말, 중국 스타트업 문샷의 Kimi K3가 프론티어 모델에 근접하는 성능으로 X(옛 트위터)를 뜨겁게 달궜습니다. 구독 신청이 몰려 48시간 만에 신규 가입을 중단해야 했을 정도였죠. 숨 돌릴 틈도 없이 알리바바가 “Fable 5 다음으로 강하다”고 자평하는 Qwen 3.8을 들고 나왔습니다.

이 소동을 두고 Ben Thompson이 Stratechery에 흥미로운 분석을 내놨습니다. 결론부터 말하면, 중국 오픈 웨이트 모델에 대한 공포는 경제학적으로 상당히 과장됐다는 겁니다. 다만 걱정할 이유가 딱 하나 있다고 짚었는데, 그게 다들 예상하는 지점이 아니었습니다.

출처: Who’s Afraid of Chinese Models? – Stratechery by Ben Thompson

“공짜”라는 착각부터 걷어내야 한다

오픈 웨이트 모델을 두고 흔히 하는 오해가 있습니다. 가중치를 그냥 내려받을 수 있으니 공짜라는 생각입니다. 아주 틀린 말은 아닙니다. 다만 그 “공짜”는 연구개발(R&D) 비용에 대한 얘기일 뿐입니다.

R&D는 고정비입니다. 1억 원을 투입했다면, 그걸로 낸 매출이 1천만 원이든 100억 원이든 R&D 지출액 자체는 바뀌지 않습니다. 이미 써버린 돈이니까요.

반면 모델을 실제로 서비스하는 데 드는 추론 비용은 완전히 다른 얘기입니다. 이걸 매출원가, 즉 COGS라고 부릅니다. 쓰면 쓸수록 계속 나가는 변동비입니다. Kimi K3를 내려받는 건 공짜여도, 그걸로 답변 하나를 생성할 때마다 돈이 나갑니다.

실제로 Kimi K3는 입력 토큰 100만 개당 3달러, 출력 토큰 100만 개당 15달러를 받습니다. OpenAI의 Sol이 각각 5달러, 30달러를 받는 것보다는 싸긴 합니다. 그런데 이 가격표만 보고 “역시 중국 모델이 싸다”고 결론 내리면 함정에 빠집니다.

토큰 가격만 보면 안 되는 이유

원자재 시장에서는 물건 하나하나가 서로 교환 가능합니다. 원유 1갤런은 어디서 나왔든 원유 1갤런입니다. 그런데 토큰은 그렇지 않습니다.

같은 질문에 답하는 데 필요한 토큰 개수가 모델마다 다릅니다. 추론 과정이 복잡해질수록 이 차이는 더 벌어집니다. Kimi는 Sol보다 같은 답에 도달하기까지 훨씬 많은 토큰을 쓴다고 알려져 있습니다. 단가가 싸도 필요한 양이 많으면, 실제로 지불하는 총비용은 역전될 수 있다는 뜻이죠.

진짜 교환 가능한 건 토큰이 아니라 토큰으로 만들어진 결과물, 지능입니다. 두 모델이 같은 문제에 같은 정답을 냈다면 그 결과는 동등합니다. 하지만 거기까지 가는 과정의 비용은 전혀 다를 수 있습니다. 모델 구조, 메모리 효율, 서빙 최적화, 토큰 효율 같은 요인들이 겹쳐서 이 비용을 결정합니다.

그런데 왜 아직 이 셈법이 안 터졌나

여기까지만 보면 “결국 서빙 비용 싸움이 될 텐데, 왜 지금 다들 이렇게 호들갑인가”라는 의문이 남습니다. Thompson은 이 지점에서 원자재 시장의 냉정한 논리를 하나 더 꺼냅니다.

원자재 시장에서는 원가 구조가 가장 나쁜 공급자가 시장 가격에 밀려 결국 손해를 보거나 도태됩니다. AI 모델도 결국 이렇게 원가 경쟁으로 수렴할 거라는 게 Thompson의 장기 전망입니다. 그런데 지금은 이 냉정한 셈법이 아직 온전히 작동하지 않고 있습니다.

이유는 컴퓨트, 즉 GPU 같은 연산 자원 자체가 부족하기 때문입니다. 수요가 공급을 웃돌고 있으니, 프론티어 모델을 만드는 회사들은 원가 경쟁에 내몰리기 전에 높은 마진을 누리고 있는 겁니다. 지금의 “저렴한 중국 모델”이라는 인상은, 이 공급 부족이 만든 일시적 가격 프리미엄에 대한 착시에 가깝다는 게 Thompson의 결론입니다.

그래도 프론티어 랩들이 유독 신경질적인 이유

Thompson은 중국 모델에 대한 반응이 경제학적으로는 과장됐다고 결론짓습니다. 그럼에도 프론티어 랩들이 이렇게 예민하게 반응하는 데는 몇 가지 이유가 있다고 봅니다.

우선 이들은 학습 비용이 지출의 대부분을 차지하던 시절의 사고방식에 여전히 머물러 있습니다. 다음 학습에 들어갈 자금을 마련하려면 추론 매출을 최대한 뽑아내야 했던 시기였죠. 하지만 앞으로는 추론 시장 자체가 학습 비용보다 훨씬 빠르게 커질 전망입니다. 가격을 낮추고도 물량으로 승부할 여지가 생기고 있다는 뜻입니다.

지능은 완벽한 원자재도 아닙니다. 모델을 실제로 서비스하면서 쌓이는 데이터가 다음 버전의 모델을 더 똑똑하게 만들기 때문입니다. 그래서 프론티어 랩들은 Claude Code, Codex 같은 ‘하네스(harness)’로 고객 경험 자체를 붙잡아두려 합니다. 한번 익숙해진 도구는 잘 바꾸지 않는다는 점을 노리는 전략이죠.

진짜 걱정해야 할 건 따로 있었다

Thompson이 유일하게 실제로 우려할 지점으로 꼽은 건 따로 있습니다. 사이버보안입니다.

Hugging Face가 겪은 인프라 침해 사고 대응 과정이 그 사례입니다. 방어팀은 미국 프론티어 모델의 가드레일 때문에 오히려 대응에 애를 먹었습니다. 공격자와 대응 담당자를 구분하지 못하는 안전장치가 발동한 겁니다. 결국 이들은 중국의 오픈소스 모델 GLM 5.2를 자체 서버에 직접 올려서, 공격자가 남긴 로그 1만 7천여 건을 분석하는 데 썼습니다.

미국 프론티어 모델이 사이버보안 목적으로는 정책상 제한돼 있습니다. 그 결과 방어자들이 결국 미국을 겨냥해온 나라의 모델에 의존하게 되는 역설이 벌어진 셈입니다. Thompson은 이 지점을 두고, 미국 정책이 오히려 자국의 방어 역량을 약화시키고 있다고 지적합니다.

정리하면 이렇습니다. 오픈 웨이트가 공짜라는 건 R&D 얘기일 뿐, 서빙 비용은 여전히 실재합니다. 지금 중국 모델이 싸 보이는 건 컴퓨트 부족이 만든 일시적 가격 프리미엄 때문이고, 이 프리미엄이 걷히면 원가 구조 싸움이 본격화될 겁니다. 그러니 다음에 어떤 모델을 골라 쓸지 판단할 때, 가격표 하나만 보고 결정할 일은 아닙니다.

참고자료:

• Alibaba’s Qwen takes on Kimi K3 with open-weight Qwen 3.8 – The Decoder
• Moonshot pauses new Kimi K3 subscriptions after GPU demand maxes out in 48 hours – The Decoder
• Kimi K3, Qwen 3.8, and Anthropic’s (potential) Unravelling – Emerging Trajectories