한 세션 비용이 42.21달러에서 6.06달러로 떨어졌습니다. 개발자 스티븐 청이 만든 오픈소스 도구 pxpipe 이야기죠. 텍스트를 이미지로 바꿔치기했을 뿐인데, 비용이 이렇게까지 줄어든 데는 이유가 있습니다.

pxpipe는 로컬 프록시로 동작합니다. Claude Code가 매번 보내는 요청 중 부피가 큰 부분, 그러니까 시스템 프롬프트나 도구 설명, 오래된 대화 기록 같은 걸 PNG 이미지로 바꿔서 대신 보내는 겁니다. 최근 메시지와 모델의 응답은 그대로 텍스트로 오갑니다. 앤트로픽이 이미지에 매기는 요금 방식이 텍스트와 다르다는 점을 이용한 트릭이죠.

출처: teamchong/pxpipe – Steven Chong

어떻게 비용을 줄이나

텍스트는 대략 한 글자당 한 토큰으로 계산됩니다. 반면 이미지는 그 안에 글자가 얼마나 들어있든 상관없이 가로세로 픽셀 크기로 요금이 고정되죠. 그래서 코드나 JSON처럼 글자가 빽빽하게 들어찬 내용일수록 이미지로 바꿔 보내는 쪽이 유리합니다. 실제로 4만8천 자 분량의 시스템 프롬프트와 도구 문서를 한 장의 PNG에 빽빽하게 눌러 담으면, 텍스트로는 약 2만5천 토큰이 들 내용이 이미지로는 약 2,700 토큰으로 줄어드는 셈입니다.

공짜가 아니다, 가끔 틀린 값을 낸다

문제는 정확성입니다. 해시값이나 ID처럼 한 글자도 틀리면 안 되는 문자열을 이미지로 보내면, 모델이 종종 다른 값을 내놓죠. 더 곤란한 건, 이게 “모르겠다”는 식의 오류가 아니라 그럴듯하게 틀린 값을 자신 있게 제시하는 방식이라는 점입니다. 개발자 청은 이를 “침묵하는 착각”이라고 부릅니다.

이런 일이 생기는 이유는 모델이 이미지를 읽는 방식이 사람과 다르기 때문입니다. 이미지는 작은 조각들로 쪼개져 하나의 의미 벡터로 뭉뚱그려 해석되고, 언어모델은 그 벡터를 바탕으로 답을 만들어내는 겁니다. 픽셀이 애매해서 정확한 글자를 특정하기 어려운 지점에서는, 모델이 “그럴듯한 값”으로 빈틈을 채워버리죠. 전체적인 맥락이나 요지는 이미지로 바꿔도 거의 그대로 파악하지만, 낱낱의 정확한 문자열만큼은 믿을 수 없다는 얘기입니다.

그래서 어떻게 쓰이고 있나

이런 특성 때문에 pxpipe는 기본적으로 Fable 5와 GPT 5.6에서만 이미지 변환을 켜둡니다. Opus 4.7과 4.8은 이미지로 바꾼 내용을 약 7% 정도 잘못 읽는다는 게 확인돼 기본값이 꺼짐으로 설정돼 있고, 수동으로만 켤 수 있죠. 정확해야 하는 값들은 애초에 이미지로 바꾸지 않고 텍스트로 남겨두는 안전장치도 마련돼 있습니다.

본다는 것과 읽는다는 것은 다르다

이 사례가 보여주는 건 단순히 “토큰을 아끼는 법” 하나가 아닙니다. 모델이 이미지를 “본다”는 것과 텍스트를 “읽는다”는 것, 이 둘이 서로 다른 과정이라는 사실이죠. 전체적인 흐름과 맥락은 이미지로 바꿔도 잘 전달되지만, 정확한 한 글자, 한 숫자를 요구하는 순간 그 차이가 드러납니다. 값싸고 참신한 트릭일수록, 눈에 잘 띄지 않는 대가가 어딘가에 숨어 있기 마련이네요.