AI Sparkup

최신 AI 쉽게 깊게 따라잡기⚡

초당 750토큰과 반값 워크호스, AI가 넘어선 두 개의 문턱

같은 주에 두 회사가 정반대의 자랑을 내놨습니다. OpenAI는 “우리 모델이 이만큼 빨라졌다”고 했고, 구글은 “우리 건 이만큼 싸졌다”고 했죠.

AI 생성 이미지

8월 중순, OpenAI는 GPT-5.6 Sol을 초당 최대 750토큰으로 돌리는 ‘Ultrafast’ 모드를 프리뷰로 공개했습니다. 며칠 사이 구글은 Gemini 3.7 Flash를 내놓으며 직전 모델보다 가격을 절반으로 떨어뜨렸죠. 속도와 가격, 노리는 지점은 달라 보여도 두 발표가 향하는 곳은 하나입니다.

출처:

속도를 따로 파는 시대

OpenAI의 Ultrafast는 GPT-5.6 Sol을 초당 최대 750토큰으로 뽑아냅니다. 이 속도는 Cerebras의 전용 하드웨어에서 나옵니다. 올해 초 OpenAI가 이 회사와 맺은 100억 달러 규모 파트너십의 결과물이죠. 아직은 API로, 일부 고객에게만 열려 있습니다.

빨라지면 뭐가 달라질까요. OpenAI가 든 예시는 장애 대응입니다. 서비스가 멈춘 그 순간에 로그와 코드 변경, 보고서를 한꺼번에 분석해 원인을 짚고 수정안까지 실시간으로 준비한다는 구상이죠.

밤새 배치로 돌려놓던 연구 실험도 비슷합니다. 결과를 기다렸다 다음 날 확인하는 대신, 아이디어를 던지고 바로 결과를 본 뒤 방향을 트는 대화형 작업으로 바뀝니다.

속도 차이를 체감할 수치가 하나 있습니다. Cerebras 자체 테스트에서 GPT-5.6 Sol Ultrafast는 박사급 난이도 문제 2,500개(HLE)를 11시간 11분에 풀었죠. 같은 문제를 Claude Fable 5는 78시간 27분, 사흘 넘게 붙들고 있었습니다.

정확도는 서로 비슷했고요. 다만 이건 하드웨어 공급사인 Cerebras가 직접 잰 값이라는 점은 감안해야 합니다.

눈여겨볼 대목은 OpenAI가 속도 자체를 상품으로 쪼개 판다는 것입니다. 기본(Standard) 위에 약 2.5배 빠르고 값은 두 배쯤인 Fast 모드가 있고, Ultrafast는 그 위에 놓인 세 번째 계층입니다. 같은 서비스를 성능 등급별로 다르게 값 매기던 클라우드 사업자의 방식을, 이제 추론 속도에 그대로 적용하는 셈이죠.

3주 만에 나온 반값 모델

구글의 Gemini 3.7 Flash는 직전 버전인 3.6 Flash가 나온 지 겨우 3주 만에 등장했습니다. 구글은 이 모델을 코딩과 에이전트 작업을 위한 ‘가장 똑똑한 일꾼(workhorse) 모델’이라고 부릅니다.

성능은 코딩 쪽에서 특히 올랐습니다. 실전 코드 품질을 재는 FrontierCode에서 43.6%로 직전의 34.4%를 넘겼고, 긴 호흡의 소프트웨어 작업을 보는 DeepSWE에서는 49.0%에서 65.3%로 뛰었죠. 구글 자체 측정 기준으로는 Claude Sonnet 5와 GPT-5.6 Terra를 앞선다고 합니다. 이 수치 역시 구글이 직접 잰 것이라 독립 평가와는 구분해서 볼 필요가 있습니다.

진짜 신호는 가격표에 있습니다. 100만 토큰당 입력 0.75달러, 출력 3.75달러. 3주 전 3.6 Flash가 처음 나왔을 때의 딱 절반입니다. 이 가격은 연말까지 유지된다는 단서가 붙어 있죠.

두 발표가 같은 곳을 가리킨다

한쪽은 더 빠르게, 다른 쪽은 더 싸게. 얼핏 다른 이야기 같지만 결국 같은 문턱을 넘는 중입니다. 속도와 비용이 어느 선을 넘으면, 지금까지 ‘너무 느려서’ 혹은 ‘너무 비싸서’ 엄두를 못 내던 쓰임새가 갑자기 손에 잡히는 현실이 됩니다.

밤새 돌려놓고 아침에 확인하던 작업을 대화하듯 즉석에서 주고받는 것. 한 번 호출하기도 아까워 아껴 쓰던 모델을 로그 감시나 반복 실험처럼 상시로 켜두는 것. 이런 방식이 거창한 인프라 없이도 개인의 일상 작업 안으로 들어옵니다.

물론 Ultrafast는 아직 프리뷰이고 일부 고객만 쓸 수 있습니다. Flash의 반값도 연말까지라는 조건이 걸려 있죠. 그래도 방향은 분명합니다. 모델을 고를 때 ‘얼마나 똑똑한가’만 따지던 시절에서, ‘얼마나 빠르고 싼가’가 똑같이 무거운 기준이 되는 쪽으로 저울이 기울고 있습니다.

참고자료:


AI Sparkup 구독하기

최신 게시물 요약과 더 심층적인 정보를 이메일로 받아 보세요! (무료)

Comments

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다