OpenAI 임원은 “지능의 가격이 18개월 동안 100배 떨어졌다”고 말합니다. 그런데 같은 회사의 최상위 모델 GPT-5.5는 직전 버전보다 49~92% 더 비쌉니다. 모델이 싸지는데 청구서는 오르는 이 모순을 어떻게 이해해야 할까요.

기술 매체 The Decoder가 OpenAI 배포 자회사 DeployCo의 CTO 아르노 푸르니에와 인터뷰한 내용입니다. 코딩 에이전트 Codex의 폭발적 성장, AI 가격 논쟁, 그리고 투자 대비 효과(ROI) 문제를 다뤘습니다. 핵심은 “지능 가격이 100배 내렸다”는 그의 주장과, 정작 비싸지는 최상위 모델 사이의 간극입니다.

출처: OpenAI’s deployment chief on Codex growth, falling AI prices, and the ROI question – The Decoder

Codex는 왜 비용 논쟁의 한가운데 섰나

먼저 Codex가 얼마나 빠르게 퍼지고 있는지부터 봅시다. 전 세계 주간 사용자가 400만 명을 넘었고, 3개월 만에 다섯 배로 뛰었습니다. 월 70% 이상의 성장세입니다.

문제는 Codex 같은 도구가 작동하는 방식에 있습니다. 단순 챗봇은 질문 하나에 답 하나를 내놓습니다. 반면 에이전트형 시스템은 하나의 작업을 여러 단계로 나눠 스스로 처리합니다. 코드를 짜고, 실행하고, 오류를 보고, 다시 고치는 과정을 반복하죠. 그만큼 한 번의 작업이 단일 챗 호출보다 훨씬 많은 연산을 먹습니다.

이 구조가 비용을 전면에 끌어올렸습니다. 사용자가 늘고, 각자가 도구를 더 깊고 강하게 쓸수록 연산 소모가 누적됩니다. 업계가 최근 API 요금을 올리고 크레딧 기반 과금으로 옮겨가는 흐름과 맞물리면서, 비용은 기업과 개인 모두에게 점점 현실적인 고민이 되고 있습니다.

“지능 가격이 100배 내렸다”는 말의 진실

푸르니에는 비용 우려에 정면으로 반박합니다. 지난 18개월 동안 지능의 가격이 “100%가 아니라 100배” 떨어졌다는 겁니다. 그는 이 하락이 칩부터 모델까지 전 단계의 효율 개선에서 나왔다고 설명합니다. 모델은 갈수록 연산을 적게 쓰고, 같은 수준의 지능을 내는 더 작은 모델도 등장했습니다. 여기까지는 사실에 가깝습니다.

그런데 The Decoder 기자는 곧바로 모순을 들이댑니다. GPT-5.5는 입력 길이에 따라 직전 모델보다 49~92% 더 비싸다는 점입니다. 같은 회사가 “가격이 100배 내렸다”고 말하면서 최상위 모델은 올린 셈이죠.

푸르니에의 해명은 test-time compute(추론 시 연산) 라는 개념에 기댑니다. 최신 모델은 답을 내기 전에 스스로 더 많이 ‘생각’할 수 있습니다. 복잡한 물리 문제는 수십 시간의 연산을 요구하지만, 단순한 산수는 그렇지 않죠. 모델 단가가 같아도, 어려운 문제에 더 오래 매달리면 실제 청구 토큰은 늘어납니다. 그래서 그는 비용 관리의 일부가 “모든 작업에 GPT-5.5의 고강도 연산이 필요하진 않다”는 점을 고객에게 설명하는 일이라고 말합니다.

정리하면 이렇습니다. 같은 수준의 지능을 얻는 단위 비용은 분명 내려갔습니다. 동시에, 모델이 더 어려운 일을 더 깊이 처리할 수 있게 되면서 한 작업이 쓰는 연산량 자체가 커졌습니다. 단가는 내려가는데 작업당 소모량이 올라가니, 청구서는 거꾸로 오를 수 있는 겁니다.

토큰 단가가 아니라 ‘작업의 궤적’을 보라

푸르니에가 ROI를 이야기하는 방식에서 개인 실무자가 가져갈 만한 관점이 하나 나옵니다. 그는 중요한 건 오늘의 토큰 가격이 아니라 하나의 작업이 시간에 따라 어떻게 변하는가라고 봅니다.

2년 전만 해도 경영진은 모든 걸 “너무 비싸다”며 일축했다고 합니다. 지금은 그때 그 작업들 상당수가 당연한 기본값이 됐고 높은 ROI를 낸다는 거죠. 즉 어떤 작업의 비용은 모델 효율이 개선되면서 시간이 지날수록 떨어지는 경향이 있습니다. 오늘 비싸 보이는 작업이 반년 뒤엔 합리적인 가격이 될 수 있다는 의미입니다.

다만 그는 ROI를 계산할 명확한 공식은 끝내 내놓지 못했습니다. 그 공식은 현장에서 기술을 직접 쓰는 사람들이 써 내려갈 거라는, 다소 회피에 가까운 답으로 마무리했죠. 그의 실용적인 조언은 단순합니다. “월 20달러짜리 Codex 라이선스를 받아서 일단 써보라”는 겁니다.

가격 하락이 진짜로 바꾸는 것

이 인터뷰가 드러내는 큰 그림은 가격 그 자체가 아닙니다. 모델 성능이 싸지고 흔해질수록, 가치는 모델에서 통합의 깊이로 옮겨갑니다. 누구나 비슷한 모델을 쓸 수 있게 되면, 차이를 만드는 건 그 모델이 실제 업무 흐름에 얼마나 깊이 박혀 있느냐가 되는 거죠. OpenAI가 자체 엔지니어를 기업 내부에 직접 투입하는 전략도 같은 논리 위에 있습니다.

개인 실무자에게 이 변화는 이렇게 읽힙니다. 모델 접근 자체는 점점 평준화되니, 단가표를 들여다보며 망설이기보다 작업이 시간에 따라 어떻게 저렴해지는지를 기준으로 판단하는 편이 현실에 가깝습니다. 동시에 기억해 둘 것은, “100배 싸졌다”는 말이 곧 “내 비용이 줄어든다”는 뜻은 아니라는 점입니다. 더 똑똑한 모델은 더 깊이 일하고, 더 깊은 일은 더 많은 연산을 씁니다.

기자가 인터뷰 말미에 짚듯, 푸르니에가 예시로만 비껴간 세 가지, 과금 모델의 지속가능성, 자사 앱과 개발자 생태계의 경쟁, 증명되지 않은 ROI는 우연히도 AI 산업 전체의 경제성을 결정할 바로 그 질문들입니다.