같은 문제를 풀어도 어떤 모델은 4만 3천 토큰을 씁니다. 어떤 모델은 2만 5천 토큰만 씁니다. 답의 품질은 비슷한데 말이죠. Thinking Machines가 새로 내놓은 오픈웨이트 모델 Inkling의 이야기입니다.

전 OpenAI 최고기술책임자 미라 무라티가 세운 Thinking Machines Lab이 첫 정식 언어모델을 공개했습니다. 이전까지는 연구용 프리뷰만 내놨던 회사가, 이번엔 전체 가중치를 그대로 공개한 프로덕션급 모델을 들고 나왔습니다.

출처: Inkling: Our open-weights model – Thinking Machines Lab

1등은 아니지만, 미국산 오픈모델 중엔 1등

Inkling은 9,750억 파라미터 규모의 혼합전문가(MoE) 모델입니다. 실제로 매 순간 작동하는 건 그중 410억 파라미터뿐이고, 텍스트와 이미지, 오디오, 영상을 합쳐 45조 토큰으로 학습했습니다. 공개된 가중치 기준으로는 최대 100만 토큰까지 문맥을 기억할 수 있습니다.

성적표부터 보면, Artificial Analysis Intelligence Index에서 41점으로 데뷔했습니다. 기존에 미국산 오픈웨이트 모델 중 1위였던 Nemotron 3 Ultra의 38점을 앞선 수치입니다. 그런데 여기서 한 가지 짚고 넘어갈 게 있습니다. 중국계 오픈모델들, 그러니까 GLM-5.2나 Kimi K2.6 같은 모델에는 여전히 못 미칩니다. Thinking Machines도 이 점을 굳이 숨기지 않습니다. 공식 발표문에도 “Inkling은 오늘 나온 모델 중 오픈이든 클로즈드든 가장 강력한 모델은 아니다”라고 스스로 적어놨습니다.

그렇다면 뭐가 특별한 걸까요.

크기 대신 효율로 승부한다

Inkling이 실제로 두각을 나타내는 지점은 따로 있습니다. 바로 토큰 효율입니다.

같은 Intelligence Index 과제를 풀 때, Inkling은 평균 2만 5천 개의 출력 토큰만 씁니다. 반면 GLM-5.2는 4만 3천 개, Kimi K2.6은 3만 8천 개, DeepSeek v4 Pro는 3만 7천 개를 씁니다. 같은 답을 내는 데 훨씬 적은 자원을 쓴다는 뜻이고, 이건 곧 비용과 속도의 차이로 직결됩니다.

에이전트 작업에서도 의외의 강세를 보입니다. 실무 업무를 흉내 낸 GDPval-AA v2 평가에서 Inkling은 엘로 점수 1238을 기록해, Kimi K2.6(1190)과 DeepSeek v4 Flash(1189)를 앞섰습니다. 은행 업무를 시뮬레이션한 벤치마크에서도 비슷하게 두 모델을 근소하게 이겼습니다. 몸집이 더 큰 경쟁 모델들 사이에서, 자원을 아끼면서도 실무형 작업은 오히려 더 잘 처리한 셈입니다.

또 하나 눈에 띄는 건 멀티모달 처리 방식입니다. 이미지와 영상은 계층적 패치 인코더로, 오디오는 이산 토큰 인코딩으로 각각 처리한 뒤, 이 모든 입력을 하나의 공유된 표현 공간에 투영해 디코더가 한꺼번에 처리합니다. 텍스트, 이미지, 오디오를 함께 다룰 수 있는 오픈웨이트 모델이 흔치 않다는 점에서, 이 부분이 Inkling을 다른 오픈모델과 구분 짓는 특징입니다.

자기 자신을 직접 고쳐보게 시켰다

Thinking Machines가 Inkling을 소개하며 보여준 데모 하나가 이 모델의 지향점을 잘 드러냅니다. 회사는 Inkling에게 스스로를 파인튜닝해보라고 시켰습니다. 모델이 직접 파인튜닝 작업 코드를 짜고, 그걸 실행하고, 나온 결과까지 스스로 평가하게 한 겁니다.

이 데모가 상징하는 건 Inkling의 정체성입니다. 이 모델은 처음부터 “그대로 갖다 쓰는 완제품”이 아니라 “각자 용도에 맞게 다듬어 쓰는 재료”로 설계됐습니다. Thinking Machines는 자사의 파인튜닝 플랫폼 Tinker에서 Inkling을 바로 커스터마이징할 수 있게 열어뒀고, 모델과 직접 대화하며 감을 잡아볼 수 있는 개발자용 플레이그라운드도 함께 내놨습니다.

왜 이 모델을 알아둘 만한가

Inkling이 흥미로운 건 “가장 똑똑한 모델”이라는 타이틀을 노리지 않았다는 점입니다. 대신 멀티모달 처리 능력과 토큰 효율, 파인튜닝 용이성이라는 조합으로 “커스터마이징하기 좋은 균형 잡힌 베이스 모델”이라는 자리를 노렸습니다.

이런 포지셔닝은 개인이 AI 도구를 고르는 기준에도 힌트를 줍니다. 모든 작업에 가장 성능 좋은 모델이 필요한 건 아닙니다. 오히려 비용과 속도가 중요한 반복 작업이라면, 최고 성능 대신 효율과 커스터마이징 가능성을 갖춘 모델이 더 실용적인 선택일 수 있습니다. Inkling은 그런 선택지가 하나 더 늘었다는 신호에 가깝습니다.