Agora는 LLM 에이전트가 여러 전문가 모델과 도구를 사용할 때, 어떤 단계에 어떤 solver를 배정할지 경매 메커니즘으로 결정하는 연구 프레임워크다. 논문은 기존 라우팅이 기능 매칭에 치우쳐 실제 성능 차이와 비용 효율을 충분히 반영하지 못한다고 본다.
핵심 구조
Agora는 추론 단계를 거래 가능한 아이템처럼 다룬다. 후보 모델·도구는 각 작업에 대해 자신이 얼마나 잘 풀 수 있는지와 비용을 반영해 입찰한다. 프레임워크는 보정된 역량(rectified competence)을 사용해 과신하는 solver가 아니라 실제로 중요한 논리를 잘 처리할 solver로 작업을 보낸다.
| 기존 라우팅 | Agora 방식 |
|---|---|
| 태스크와 도구 기능을 대략 매칭 | 작업별 입찰과 보정 역량으로 배분 |
| 비용·품질 트레이드오프가 암묵적 | 단일 경매 파라미터로 비용과 품질 조절 |
| 비슷한 도구 사이 성능 차이를 놓치기 쉬움 | 후보 간 성능 변동성을 배분 과정에 포함 |
왜 중요한가
에이전트 시스템은 점점 하나의 모델이 아니라 여러 모델, 검색기, 계산 도구, 코드 실행기, 검증기를 조합한다. 이때 “어떤 문제를 누구에게 맡길 것인가”가 품질과 비용을 크게 좌우한다. Agora는 이 문제를 ai-agent-tips-tool-selection과 llm-orchestration-tips-framework-choice의 다음 단계인 동적 작업 시장으로 본다.
한계
논문은 연구 프레임워크이며, 실제 서비스에 넣으려면 입찰 점수 산정, solver 평가 데이터, 비용 모델, 지연 시간 제약을 별도로 설계해야 한다. 또한 경매 메커니즘 자체가 추가 오버헤드를 만들 수 있으므로 짧고 단순한 요청에는 과한 구조가 될 수 있다.
관련 문서
- ai-agent-tips-tool-selection — 도구가 많아질 때 정확도를 지키는 Tool Selection 설계
- llm-orchestration-tips-framework-choice — LangChain·LlamaIndex·Raw API 선택 기준
- agentic-ai-frameworks-tips-2026 — 에이전트 프레임워크 선택 기준
참고 자료
- Agora: Enhancing LLM Agent Reasoning Via Auction-Based Task Allocation — arXiv (2026-07-10)