AI Sparkup

최신 AI 쉽게 깊게 따라잡기⚡

Microsoft MAI-Thinking-1, 증류 없이 만든 35B 추론 모델이 던지는 질문

Microsoft는 지금까지 OpenAI 모델을 빌려 쓰는 회사였습니다. 그런데 Build 2026에서 직접 만든 추론 모델을 들고 나왔고, “타사 모델에서 증류하지 않았다”고 못 박았습니다. 작은 선언처럼 들리지만, AI 개발 관행을 놓고 보면 꽤 도발적인 주장입니다.

사진 출처: Latent Space / Microsoft AI

Microsoft AI가 Build 2026에서 7종의 MAI 모델 패밀리를 발표했습니다. 추론, 코딩, 이미지 생성, 음성, 전사(transcription)를 아우르는 라인업이고, 그 중심에는 첫 번째 자체 추론 모델인 MAI-Thinking-1이 있습니다.

출처: Introducing MAI-Thinking-1 – Microsoft AI
출처: Building a hill-climbing machine: Launching seven new MAI models – Microsoft AI

35B 활성 파라미터, 그런데 총 파라미터는 1T

MAI-Thinking-1은 총 1조(1T) 파라미터를 가진 모델이지만, 실제 추론 시 활성화되는 파라미터는 35B에 불과합니다. 이 구조가 MoE(Mixture of Experts)입니다.

MoE는 쉽게 말해 분업 구조입니다. 모델 전체를 수많은 ‘전문가(expert)’ 서브네트워크로 나눠두고, 입력이 들어올 때 그 중 일부만 선택해 활성화합니다. 덕분에 추론 비용은 작은 모델 수준으로 유지하면서, 학습에 쓴 전체 파라미터의 역량은 고스란히 가져갈 수 있습니다.

Microsoft는 이 구조로 Claude Opus 4.6와 SWE-Bench Pro에서 동급 수준을 기록했고, 블라인드 인간 평가에서는 Claude Sonnet 4.6 대비 우위를 주장합니다. 수학 추론 벤치마크 AIME 2025에서는 97.0%를 달성했습니다. 단순히 크게 만들어서 얻은 수치가 아니라, 같은 추론 비용으로 더 강한 성능을 내는 게 이 모델의 핵심 주장입니다.

“증류 없는 학습”이 의미하는 것

요즘 많은 모델이 증류(distillation) 방식으로 만들어집니다. GPT-4나 Claude 같은 대형 모델이 생성한 데이터를 교사 삼아, 더 작은 모델을 학습시키는 방식입니다. 빠르고 효율적이지만 한계가 있습니다. 교사 모델의 설계 선택을 그대로 물려받기 때문에, 새로운 상황에서 유연하게 적응하기 어렵고 내부 동작을 완전히 파악하기도 힘듭니다.

Microsoft는 이를 정면으로 피했습니다. “모방자는 교사의 설계 선택에 묶인다”는 것이 그들의 표현입니다. MAI-Thinking-1은 추론 능력, 에이전트 행동, 도구 사용 모두를 자체 데이터와 강화학습으로 처음부터 익혔습니다. 학습 환경은 실제 개발자가 하는 작업, 즉 코드를 읽고, 파일을 편집하고, 테스트를 실행하고, 실패에서 복구하는 흐름을 그대로 모사한 결정론적 환경입니다.

동시에 109페이지 분량의 기술 보고서를 공개했습니다. 아키텍처, 학습 파이프라인, 데이터 처리 과정을 상세히 담은 문서로, 연구 커뮤니티에서 “이 규모 모델 중 가장 투명한 보고서”라는 평가를 받고 있습니다.

다만 “적절하게 라이선스된 데이터”라는 주장은 곧바로 검증을 받았습니다. Simon Willison이 기술 보고서를 직접 분석한 결과, 학습 데이터는 자체 웹 크롤링 결과물과 Common Crawl을 포함합니다. 공개 웹 크롤링을 기반으로 한다는 점에서 다른 대형 모델들과 다르지 않습니다. 투명성의 가치는 인정받되, 데이터 라이선스 주장은 그 의미를 좀 더 꼼꼼하게 따져볼 필요가 있습니다.

모델을 조직 업무에 맞게 다시 학습시킨다

MAI-Thinking-1 발표와 함께 공개된 Frontier Tuning도 주목할 만합니다. 조직의 실제 업무 흐름을 데이터로 삼아, MAI 모델을 해당 워크플로에 맞게 강화학습으로 재조정하는 방식입니다.

Microsoft 내부 사례에서 Excel용으로 튜닝한 MAI 모델이 GPT-5.4와 동급 성능을 내면서 비용은 10분의 1 수준을 기록했다고 밝혔습니다. 범용 모델을 그대로 쓰는 대신, 특정 업무에 맞게 깎아내는 방향입니다. “내 조직의 업무 방식이 모델에 녹아들고, 그 모델은 내 것으로 남는다”는 개념입니다.

Microsoft AI 생태계가 나아가는 방향

이번 발표는 모델 하나의 출시보다 큰 의미를 가집니다. Microsoft가 자체 칩(MAIA 200), 자체 학습 인프라, 자체 모델을 갖춘 독립적인 AI 연구소로 자리잡겠다는 선언에 가깝습니다. OpenAI와의 관계를 느슨하게 재조정한 시점과 맞물려 있고, Mustafa Suleyman은 이를 “hill-climbing machine”, 즉 컴퓨팅과 데이터와 평가가 쌓일수록 능력이 꾸준히 올라가는 조직을 만드는 과정이라고 표현했습니다.

MAI-Thinking-1은 현재 일부 얼리 파트너에게만 공개된 상태입니다. 기술 보고서에는 벤치마크 결과 외에도 아키텍처 설계 선택과 학습 과정의 상세한 ablation 분석이 담겨 있어, 관심 있는 분이라면 직접 읽어볼 가치가 있습니다.

참고자료:


AI Sparkup 구독하기

최신 게시물 요약과 더 심층적인 정보를 이메일로 받아 보세요! (무료)

Comments

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다