지금까지 AI 칩은 여러 모델을 두루 돌릴 수 있어야 좋은 칩이었습니다. 구글이 준비 중인 새 칩은 정반대 방향을 택했습니다. 오직 자기 모델 하나만을 위해 설계를 통째로 하드웨어에 새겨 넣는 겁니다.

IT 매체 The Decoder가 The Information의 단독 취재를 인용해 전한 소식입니다. 구글이 내부적으로 “Frozen v2″라 부르는 서버 칩을 개발 중이며, Gemini 모델의 아키텍처(설계 구조)를 실리콘에 직접 새겨 기존 TPU보다 6~10배 높은 효율을 노리고 있다는 내용입니다. 배치 목표 시점은 2028년입니다.

출처: Google’s “Frozen v2” chip reportedly bakes Gemini’s architecture directly into silicon for efficiency gains – The Decoder

무엇을 얼려 넣는다는 걸까

이름부터 살펴보면 실마리가 있습니다. AI 모델을 학습시킬 때 특정 파라미터 값을 더 이상 바뀌지 않도록 고정하는 걸 “얼린다(freeze)”고 표현하는데, Frozen v2는 이 개념을 하드웨어 설계에 그대로 가져온 이름입니다.

기존 TPU는 어떤 모델이든 어느 정도 유연하게 돌릴 수 있도록 범용으로 만들어졌습니다. 반면 Frozen v2는 Gemini 모델 구조의 일부를 칩 회로 안에 아예 고정해버립니다. 모델이 추론할 때마다 거쳐야 하는 연산 단계 자체를 줄여, 응답 속도를 끌어올리는 방식이죠.

가중치 대신 설계도만 새기기로 한 이유

이 아이디어는 원래 구글 딥마인드의 수석 과학자 제프 딘이 낸 것으로 전해집니다. 첫 번째 구상은 지금보다 훨씬 과감했습니다. 모델의 가중치, 그러니까 AI가 어떻게 답할지를 결정하는 구체적인 학습 값 자체를 칩에 새겨 넣으려 했던 겁니다.

이 방식은 폐기됐습니다. 가중치를 통째로 새기면 그 칩은 딱 하나의 Gemini 버전에만 묶여버리기 때문입니다. 모델이 업데이트될 때마다 칩도 쓸모없어지는 셈이니, 수명이 너무 짧았던 겁니다.

Frozen v2는 한발 물러선 절충안입니다. 가중치가 아니라 아키텍처, 즉 모델의 밑그림에 해당하는 구조만 고정합니다. 새로운 가중치는 계속 얹을 수 있으니 Gemini가 업데이트돼도 같은 칩을 이어서 쓸 수 있는 겁니다. 다만 아키텍처를 어느 정도까지 하드웨어에 박아넣을지는 아직 결정되지 않았다고 합니다.

팔 물건이 아니라, 부족분을 메우는 용도

이 칩이 외부 판매용이 될 가능성은 낮습니다. 같은 모델 아키텍처를 계속 쓸 때만 제 역할을 하기 때문에, 범용성을 요구하는 외부 고객에게는 애초에 맞지 않는 구조입니다.

구글은 이미 TPU를 메타에 임대하고 외부 클라우드 고객에게도 제공하며, 엔비디아 매출의 10%를 가져오겠다는 목표까지 세운 상태입니다. Frozen v2는 이런 사업 확장용 하드웨어와는 결이 다릅니다. 오히려 구글 내부의 AI 연산 자원 부족을 메우려는 용도에 가깝습니다.

목적은 소박해 보이지만 파급력은 작지 않을 수 있습니다. AI 사업에서는 추론 비용을 얼마나 효율적으로 관리하느냐가 곧 이익률을 좌우하는 요소가 되어가는 중이죠. Frozen v2가 실제로 6~10배의 효율 개선을 만들어낸다면, 구글은 강력한 모델을 더 낮은 가격에 운영하며 OpenAI나 Anthropic과의 가격 경쟁에서 유리한 자리를 차지할 수 있습니다.

참고자료: Google Plans New ‘Frozen’ Chip to Run Its AI Models Much More Efficiently – The Information