엔비디아가 Computex 키노트에서 새 모델을 발표했습니다. 미국산 오픈 AI 모델 중 가장 높은 성능을 기록했다는 소식인데, 정작 글로벌 오픈 모델 순위에서는 중국 모델들이 여전히 앞서 있습니다.

벤치마크 플랫폼 Artificial Analysis가 엔비디아와 협력해 Nemotron 3 Ultra를 사전 평가한 결과를 발표했습니다. 약 5,500억 개의 파라미터를 갖추고(활성 파라미터는 550억), 미국 오픈 웨이트 모델 중 가장 높은 지능 점수를 기록했습니다. 다만 중국 주도의 오픈 모델 선두권에는 아직 미치지 못합니다.

출처: Nemotron 3 Ultra announced: high-speed, leading US open weights intelligence – Artificial Analysis

성능 격차, 어느 정도일까

Artificial Analysis Intelligence Index 기준으로 Nemotron 3 Ultra는 48점을 기록했습니다. 미국 오픈 모델 중 다음 순위인 Gemma 4 31B(39점), Nemotron 3 Super(36점), gpt-oss-120b(33점)를 훌쩍 앞서는 수준입니다. 미국 진영에서는 확실한 선두입니다.

그런데 글로벌 시야로 넓혀보면 이야기가 달라집니다. 중국 Moonshot AI의 Kimi K2.6이 54점으로 오픈 모델 전체 1위를 유지하고 있고, Nemotron 3 Ultra는 그 아래 6점 차이입니다. 오픈 모델 생태계에서 중국과 미국의 격차가 여전히 남아 있습니다.

속도에서는 판이 뒤집힌다

추론 속도에서는 상황이 달라집니다. Nemotron 3 Ultra는 DeepInfra 사전 출시 엔드포인트에서 초당 300토큰 이상을 처리합니다. 비교 대상인 DeepSeek, Moonshot(Kimi) 등 중국 기반 모델들은 현재 시장에서 보통 초당 50~100토큰 수준에 머물고 있습니다.

성능 점수에서는 6점 뒤지지만, 처리 속도는 3~6배 앞서는 셈입니다. 이는 단순한 하드웨어 우위가 아니라 엔비디아의 스파스(sparse) 아키텍처 설계 방식에서 기인합니다. 5,500억 파라미터 중 90%는 비활성화된 채로 두고, 실제로는 550억 파라미터만 연산에 참여시키는 구조입니다. 덕분에 거대한 모델 크기에서 오는 지능은 살리면서 추론 효율을 높일 수 있습니다.

이 모델이 갖는 의미

지금까지 오픈 AI 모델 경쟁에서 성능 선두는 중국 랩들이 주도해왔습니다. 미국에서는 클로즈드 모델(GPT, Claude 등)이 강세였지만, 오픈 웨이트 쪽에서는 상대적으로 약했습니다. Nemotron 3 Ultra는 미국 오픈 생태계에서 처음으로 경쟁력 있는 대형 모델이 등장했다는 점에서 의미가 있습니다.

속도라는 변수도 흥미롭습니다. 지능 점수가 조금 낮더라도 처리 속도가 수 배 빠르다면, 실시간 응답이 중요한 에이전트 작업이나 대규모 배치 처리에서는 다른 평가가 나올 수 있습니다. Nemotron 3 Ultra는 “지능 × 속도” 조합으로 승부를 걸고 있습니다.

모델은 6월 4일 Hugging Face, OpenRouter 등에서 공개됩니다. Artificial Analysis는 공개 시점에 전체 벤치마크와 추가 분석도 함께 발표할 예정입니다.

참고자료: Nvidia’s Nemotron 3 Ultra becomes the smartest open US model, but China still leads – The Decoder