옵저버빌리티
AI 에이전트, 프로덕션에 올리기 전에 반드시 알아야 할 것들
에이전트는 기존 소프트웨어와 다르게 모니터링해야 합니다. LangChain이 정리한 자연어 입력의 무한성과 LLM 비결정성 문제, 그리고 어노테이션 큐·LLM 평가자를 활용한 프로덕션 옵저버빌리티 전략을 소개합니다.
Written by
LangSmith 토큰 추적으로 LLM API 비용 50% 줄이는 방법
LLM API 비용을 50% 절감하는 토큰 추적 실전 가이드. LangSmith를 활용해 토큰 사용량을 시각화하고 병목 지점을 파악하는 단계별 방법을 소개합니다.
Written by
