단 두 달 만에 GPU 임대 가격이 48% 올랐습니다. 속도가 아니라 인프라 접근 여부가 스타트업의 경쟁력을 가르는 시대가 시작됐습니다.

Theory Ventures의 GP 톰 텅구즈(Tom Tunguz)가 현재 AI 컴퓨트 공급 위기를 짧고 명확하게 분석한 글을 발표했습니다. Nvidia Blackwell(B200) GPU 임대 가격이 2개월 만에 시간당 2.75달러에서 4.08달러로 48% 급등했고, 최신 AI 모델에 대한 접근이 제한되기 시작했다는 것이 핵심입니다.

출처: The Beginning of Scarcity in AI – Tomasz Tunguz

지금 무슨 일이 벌어지고 있나

GPU 공급 부족의 영향은 이미 최상위 AI 기업들에게 가시적으로 나타나고 있습니다. CoreWeave는 가격을 20% 인상하고 최소 계약 기간을 1년에서 3년으로 연장했습니다. OpenAI CFO 사라 프라이어(Sarah Friar)는 “컴퓨트가 부족해 추진하지 못하는 프로젝트가 있다”고 공개적으로 인정했고, Anthropic은 최신 모델 접근을 약 40개 기관으로 제한하고 있습니다.

최대 AI 기업들도 이 정도 어려움을 겪고 있다면, 스타트업과 개인 개발자가 체감하는 압박은 훨씬 클 수밖에 없습니다.

구조적으로 어떤 변화가 오는가

텅구즈는 이 시대를 정의하는 특징으로 다섯 가지를 제시합니다. 그중 개발자 입장에서 특히 주목할 만한 세 가지를 살펴봅니다.

최신 모델은 관계와 자본으로만 접근 가능해진다. 공급이 제한되면 AI 제공사는 수익성이 높거나 전략적으로 중요한 고객을 우선합니다. “누구나 API를 열면 쓸 수 있다”는 전제가 더 이상 당연하지 않습니다.

가격 자체가 진입 장벽이 된다. 자본을 조달하거나 안정적인 수익을 내는 기업이 최신 모델에 먼저, 더 많이 접근하게 됩니다. AI 활용 격차가 기술력이 아니라 자금력으로 결정되는 상황입니다.

강제적인 모델 다각화가 시작된다. 최신 SOTA 모델에 접근하지 못하는 개발자는 소형 모델, 오픈소스, 온프레미스 배포 등의 대안을 찾게 됩니다. 이 전환은 선택이 아닌 압박에 의한 것이며, 에너지 인프라와 데이터센터 확충에는 수년이 걸립니다.

AI 자원 풍요의 시대가 끝났다는 의미

지난 몇 년간 AI 도구 접근 비용은 꾸준히 낮아졌고, 개발자들은 점점 더 강력한 모델을 점점 더 싸게 쓸 수 있었습니다. 이 흐름이 역전되고 있습니다.

텅구즈는 Bank of America를 인용하며 수요가 공급을 앞지르는 상황이 2029년까지 지속될 수 있다고 전망합니다. 컴퓨트 부족은 일시적인 병목이 아니라, 앞으로 수년간 AI 생태계의 구조를 재편할 변수입니다. 어떤 모델을 쓸 수 있는가, 얼마나 빠르게 쓸 수 있는가, 그 비용은 얼마인가—이 세 가지가 개발자의 현실적인 제약 조건이 될 수 있습니다.

원문에는 이 공급 위기가 AI 스타트업의 경쟁 방식을 어떻게 바꾸는지에 대한 분석이 더 담겨 있습니다.