토큰 아끼는 법을 조사하려고 리서치 파이프라인을 만들었습니다. 그런데 그 파이프라인이 30분 만에 한 달 치 토큰 한도를 다 써버렸습니다. 정작 결과물은 하나도 못 건진 채로 말이죠.

AI 에이전트 비용을 연구하는 회사 Quesma의 개발자가 자신의 블로그에 이 경험을 그대로 적었습니다. 이 글은 지난 며칠 해커뉴스 메인에도 올랐습니다.

출처: I burned all my tokens researching how to save tokens – Quesma Blog

30분 만에 막힌 첫 시도

저자의 목표는 단순했습니다. AI 에이전트 비용에 관한 모니터링 도구, 팀들이 지출을 관리하는 방식, 실제로 효과가 있는 최적화 기법을 전부 조사하는 것이었습니다.

가장 익숙한 방식으로 시작했습니다. Claude Code의 딥리서치 기능에 큰 질문 하나를 던지고 맡겨봤죠. 이 기능은 에이전트 111개를 띄우고 검증할 주장 123개를 대기열에 올렸습니다.

그런데 30분쯤 지나 한도에 걸렸습니다. 검증이 끝난 주장은 25개뿐이었고, 최종 종합 결과는 아예 나오지도 못했습니다. 몇 시간을 기다려야 다시 쓸 수 있는 상태가 됐네요.

토큰을 아끼는 법을 조사하다가 정작 자신이 토큰을 다 써버린 겁니다. 첫날부터 이 문제를 몸으로 배운 셈이었습니다.

이미 내고 있던 구독료부터 다시 봤다

저자는 관점을 바꿨습니다. 프론티어 모델 하나가 30분 만에 바닥난다면, 이미 갖고 있는 도구들을 다시 살펴보는 게 낫겠다고 생각한 겁니다. 그가 이미 결제하고 있던 구독은 Claude, Codex, Antigravity 세 가지였습니다. 이론상으로는 추가 비용 없이 세 배의 토큰을 쓸 수 있는 셈입니다.

여기서 핵심 발상이 나왔습니다. 모든 작업에 가장 비싼 모델이 필요한 게 아니라는 거죠. 검색처럼 반복이 많은 작업에는 저렴하고 빠른 모델을, 검증처럼 정확도가 중요한 작업에는 조금 더 정확한 모델을 배정했습니다. 계획을 짜고 이견을 조율하는 작업에만 가장 비싼 모델을 쓰는 식으로 역할을 나눈 겁니다.

터미널 작업에 강한 모델은 코드를 실행하고 도구를 다루는 역할을 맡았습니다. 완전히 다른 계열의 모델은 다른 관점에서 결과를 검토하는 역할에 배정했고요. 같은 계열 모델만 쓰면 똑같은 맹점을 공유하게 되니, 일부러 다른 회사 모델을 섞은 겁니다.

이 구성을 하나로 묶는 방법도 있었습니다. Claude Code를 메인 하네스로 두고, 나머지 두 도구를 백그라운드에서 호출 가능한 서브에이전트처럼 동작하게 만든 거죠. 이렇게 하면 토큰은 각 도구의 원래 구독에서 빠져나가니 추가 요금은 없이, 쓸 수 있는 전체 지능의 양만 늘어납니다. 저자는 원래 Claude Code용으로 쓰던 메모리 플러그인 claude-mem을 세 도구가 함께 쓰도록 확장했습니다. 덕분에 한 도구가 알아낸 정보를 다른 도구도 곧바로 이어받아 쓸 수 있게 됐습니다.

결과는 10배 차이였다

이 구성을 실제로 적용해보니, 처음 프론티어 모델 하나만 썼을 때보다 대략 10배 더 오래 리서치를 계속할 수 있었습니다. 세 구독 중 어느 하나라도 한도에 걸릴 때까지 버틴 시간을 기준으로 잰 수치죠. 처음엔 30분이었던 작업 시간이 몇 시간 단위로 늘어난 셈입니다.

저자는 이 과정에서 한 가지 실수도 짚었습니다. 서브에이전트는 기본적으로 부모 에이전트의 모델 설정을 그대로 물려받거든요. 역할별로 어떤 모델을 쓸지 미리 고정해두지 않으면, 결국 가장 비싼 모델이 계속 호출되면서 처음과 같은 방식으로 한도가 금방 소진됩니다. 그가 첫 시도에서 30분 만에 한도를 다 써버린 이유도 바로 이 지점이었네요.

이 경험담이 보여주는 건 비용을 아끼는 방법이 반드시 “더 저렴한 모델을 찾는 것”만은 아니라는 점입니다. 이미 내고 있는 구독료 안에서, 어떤 작업에 어떤 도구를 배정할지 다시 짜는 것만으로도 쓸 수 있는 지능의 총량이 크게 달라질 수 있습니다.