AI Sparkup

최신 AI 쉽게 깊게 따라잡기⚡

Workweave Router – 요청마다 적합한 LLM을 고르는 에이전트용 모델 라우터

Workweave Router는 Claude Code, Codex, Cursor, opencode 같은 에이전트 앞에 두는 모델 라우팅 프록시다. Anthropic Messages, OpenAI Chat Completions, Gemini native API를 받아 요청별로 적합한 모델을 고르고, OpenRouter나 OpenAI 호환 endpoint의 OSS 모델까지 연결한다.

핵심 아이디어

에이전트 워크로드는 요청마다 난이도와 성격이 다르다. 간단한 파일 검색과 복잡한 아키텍처 변경에 같은 모델을 쓰면 비용이 낭비되거나 품질이 떨어진다. Workweave Router는 작은 on-box embedder와 cluster scorer를 사용해 요청을 분류하고, 설정된 provider 중 적합한 모델로 보낸다.

기능설명
per-request routing매 turn마다 모델 선택
API 호환Anthropic, OpenAI, Gemini, OpenAI-compatible 지원
BYOKprovider key를 로컬에 암호화 저장
observabilityOTLP trace와 dashboard 제공
에이전트 설치Claude Code, Codex, opencode 설정 자동화

빠른 시작

호스팅 라우터를 쓰는 가장 짧은 경로는 npm installer다.

npx @workweave/router

특정 도구만 지정할 수도 있다.

npx @workweave/router --claude
npx @workweave/router --codex
npx @workweave/router --opencode
npx @workweave/router --local

로컬 모드에서는 localhost:8080에 프록시를 띄우고 에이전트 설정을 그 endpoint로 바꾼다.

언제 유용한가

  • 코딩 에이전트 비용을 낮추되 어려운 요청에서는 강한 모델을 유지하고 싶을 때
  • Anthropic, OpenAI, Gemini, OpenRouter 모델을 한 endpoint 뒤에 묶고 싶을 때
  • 요청별 trace와 모델 선택 근거를 남겨 운영 비용을 분석해야 할 때
  • agent-as-a-router처럼 라우팅을 에이전트 설계의 핵심 계층으로 보고 싶은 팀

주의할 점은 라우팅 자체도 실패할 수 있다는 것이다. 보안·정확도 민감 작업은 fallback, allowlist, 평가 로그를 함께 둬야 한다.

참고 자료



AI Sparkup 구독하기

최신 게시물 요약과 더 심층적인 정보를 이메일로 받아 보세요! (무료)