이미지 입력 비용을 줄이려고 detail: low를 고정하는 것은 단순하지만 항상 좋은 최적화는 아니다. OpenRouter의 실험은 reasoning 모델에서 저해상도 입력이 오히려 더 많은 reasoning token을 유발해, 비용은 늘고 정확도는 떨어질 수 있음을 보여준다.
핵심 결론
OpenRouter는 MMMU-Pro Vision의 1,730개 시각 추론 문제를 대상으로 OpenAI·Google 계열 5개 모델을 low와 auto detail로 비교했다. 모든 모델에서 auto가 더 높은 정확도를 냈다.
| 모델 | low 정확도 | auto 정확도 | low 비용 | auto 비용 |
|---|---|---|---|---|
| gpt-5.5 | 65.2% | 79.0% | 5.1센트/문제 | 4.5센트/문제 |
| gemini-3.5-flash | 77.9% | 80.1% | 2.96센트/문제 | 2.80센트/문제 |
| gemini-3.1-pro | 75.5% | 78.4% | 9.53센트/문제 | 11.12센트/문제 |
low는 입력 토큰을 줄이지만 이미지가 512px 수준으로 축소되면 작은 글자, 차트, 도면의 정보가 사라진다. reasoning 모델은 부족한 시각 정보를 보상하려고 더 길게 추론하고, 이 출력·추론 토큰 비용이 입력 절감분을 먹어버릴 수 있다.
reasoning 모델과 non-reasoning 모델을 나눠라
| 모델 유형 | 기본 전략 |
|---|---|
| reasoning 모델 | auto 또는 high로 이미지를 선명하게 보내고, 비용은 reasoning effort로 제어 |
| non-reasoning 모델 | low가 비용·지연을 줄일 수 있으나 정확도 손실을 별도 측정 |
OpenRouter 실험에서 gpt-5.4-mini와 gpt-4.1처럼 reasoning token이 없는 모델은 low에서 실제 비용·지연이 줄었다. 하지만 정확도도 함께 낮아졌다. 따라서 OCR, 차트, UI 스크린샷, 기술 도면처럼 세부 정보가 중요한 워크로드에서는 low를 기본값으로 두기 어렵다.
비용 최적화 순서
- 이미지 detail을 먼저 낮추지 말고, 현재 데이터셋에서
low,auto,high를 샘플 평가한다. - reasoning 모델이라면
reasoning=low같은 reasoning effort 제한을 먼저 실험한다. - 차트·도면·OCR·스크린샷처럼 작은 요소가 많은 이미지는
auto이상을 기본값으로 둔다. - 단순 사진 분류, 큰 객체 탐지처럼 세부 묘사가 덜 중요한 워크로드에서만
low를 후보로 둔다.
참고 자료
- Choosing the Optimal Image Input Detail Level in LLMs — OpenRouter (2026-07-07)