캐스케이드
DeepSeek를 먼저 돌리고 실패할 때만 Claude를 부르는 캐스케이드, 정확도 13%p에 비용 62% 절감
같은 코딩 벤치마크를 푸는 데 한쪽은 건당 21.63달러, 다른 쪽은 0.24달러. 90배 차이인데 비싼 쪽이 더 많이 푸는 것도 아니었습니다. 싼 모델을 먼저 돌리고 테스트가 거부할 때만 비싼 모델로 올리자 정확도는 13%p 오르고 비용은 62% 내려갔죠.
Written by

최신 AI 쉽게 깊게 따라잡기⚡
같은 코딩 벤치마크를 푸는 데 한쪽은 건당 21.63달러, 다른 쪽은 0.24달러. 90배 차이인데 비싼 쪽이 더 많이 푸는 것도 아니었습니다. 싼 모델을 먼저 돌리고 테스트가 거부할 때만 비싼 모델로 올리자 정확도는 13%p 오르고 비용은 62% 내려갔죠.
Written by

최신 게시물 요약과 더 심층적인 정보를 이메일로 받아 보세요! (무료)