로컬에서 모델을 돌려본 사람이라면 이런 경험이 있을 겁니다. 4비트로 양자화해도 벤치마크 점수는 별 차이가 없는데, 실제로 써보면 왠지 모르게 아는 게 줄어든 느낌. 개발자 표트르 미갈은 이 감각이 어디서 오는지 궁금해서, Qwen3.6 27B 모델을 58가지 버전으로 나눠 직접 확인해봤습니다.

미갈은 이전 글에서 같은 모델로 펠리컨 그림 그리기와 일반 벤치마크 점수를 테스트했는데, 4비트 이상에서는 품질 차이가 거의 없었습니다. 그런데 “작은 모델은 뭔가 부족하다”는 체감은 여전히 있었죠.

출처: Quantization hurts knowledge nonlinearly – Qwen3.6 27B case study – Quesma Blog (Piotr Migdał)

왜 벤치마크는 멀쩡한데 뭔가 모자란가

미갈이 주목한 건 “사실 지식은 압축할 수 없다”는 전제였습니다. 추론 능력은 압축해도 어느 정도 유지되지만, 인터넷 전체에 담긴 사실들을 몇 GB 안에 다 눌러 담을 수는 없다는 것. 이를 확인하기 위해 그는 IKP(Incompressible Knowledge Probes)라는 1400문항짜리 트리비아 벤치마크를 썼습니다. “시칠리아와 이탈리아 본토를 가르는 해협은”처럼 쉬운 문제부터, “엘 브룰의 다리가 몇 년에 지어졌나”처럼 극히 희귀한 지식까지 7단계 난이도로 구성돼 있죠.

모델 크기(로그 스케일)와 이 벤치마크 정확도 사이에는 뚜렷한 선형 관계가 있었습니다. 파라미터가 10배 늘 때마다 정확도가 약 16퍼센트포인트씩 오르는 식이죠. 문제는 그다음부터입니다.

같은 모델 안에서는 곡선이 완전히 달라진다

Qwen3.6 27B 하나를 58가지 방식으로 양자화해 같은 벤치마크를 돌리자, 이번엔 선형이 아니라 곡선이 나타났습니다. 디스크 용량 20GB(5비트) 이상에서는 원본과 품질이 거의 똑같았죠. 3비트부터 눈에 띄게 떨어지기 시작했고, 2비트로 가면 낙폭이 훨씬 커졌습니다. 완만하게 이어지다 어느 순간 뚝 꺾이는 모양이었습니다.

미갈은 이 비선형성이 착시가 아닌지 확인하려고 변수를 바꿔가며 다시 그려봤습니다. 그 결과 진짜 원인은 모델 용량이 아니라, 원본 모델과의 확률분포 차이(KL divergence)에 있었죠. 이 지표와 정확도를 나란히 놓자 상관계수 -0.981이라는 거의 완벽한 직선이 나왔습니다.

양자화는 눈이 멀었다

미갈의 해석은 이렇습니다. 모델을 살짝 압축할 때는 불필요한 노이즈만 걷어내는 것이라 손해가 거의 없죠. 그런데 어느 지점을 넘어서면 확률분포 자체가 무너지기 시작하고, 그때부터는 처음부터 그 크기로 학습시킨 작은 모델보다 더 빠르게 품질이 떨어집니다.

작은 모델을 처음부터 학습시키면 적어도 그 학습 데이터에 맞춰 최적화라도 되지만, 양자화는 원본 분포에 가깝게 만드는 것 말고는 아무것도 고려하지 않는 것입니다. 그는 이걸 “양자화는 눈이 멀었다”고 표현했죠.