에이전트를 여러 개 동시에 굴리려면 보통 복잡한 인프라가 필요하다고 생각하기 쉽습니다. 데이터베이스, 큐, 락(lock) 관리까지 이것저것 엮어야 할 것 같은 느낌이죠. 그런데 한 개발자는 몇 달째 이 인프라 하나로만 제품을 만들고 있다고 말합니다.
개발자 Cal Paterson은 최근 몇 달간 Cloudflare Durable Objects(DO)만으로 제품을 만들어왔습니다. 그가 주목한 건 이 프리미티브가 유독 에이전트 워크로드와 잘 맞아떨어진다는 점입니다. 그 이유를 하나씩 짚어보면, 에이전트 인프라를 고민하는 개발자에게 새로운 선택지가 보입니다.
출처: Durable Objects are Made for Agents – Cal Paterson’s Blog
서비스가 아니라 객체 단위로 생각하게 만든다
DO는 세 가지를 하나로 묶은 구조입니다. 요청이 올 때마다 뜨는 서버리스 V8 격리 환경, 객체마다 붙는 전용 SQLite 저장소, 그리고 ID 기반 요청 라우팅입니다.
이 조합이 만드는 변화는 생각보다 큽니다. 기존 서비스는 “데이터베이스와 통신하는 서비스 묶음”으로 설계하는 게 보통이었죠. DO를 쓰면 발상이 뒤집힙니다. “이벤트에 반응하는 여러 객체들의 집합”으로 서비스를 재구성하게 되는 겁니다.
에이전트 하나를 객체 하나에 대응시키면, 그 매핑이 자연스럽습니다. 에이전트마다 별도의 실행 환경과 저장소를 갖게 되니까요.
단일 스레드라서 오히려 걱정이 준다
DO의 특징 중 하나는 객체 하나당 요청이 단일 스레드로 처리된다는 점입니다. 언뜻 성능에 불리해 보일 수 있지만, 에이전트 워크로드에서는 이게 장점으로 작용합니다.
에이전트는 보통 상태를 갖고 순차적으로 판단하며 움직입니다. 동시에 같은 상태를 여러 요청이 건드릴 걱정이 없다면, 락이나 트랜잭션 관리에 쏟을 시간이 그만큼 줄어드는 셈이죠.
Paterson은 여기에 더해 로컬 개발 환경의 편의성도 언급합니다. wrangler CLI로 로컬에서 거의 동일한 환경을 재현할 수 있어, 배포 전 테스트 사이클이 짧아진다는 겁니다. 웹소켓을 네이티브로 지원한다는 점도 실시간으로 응답을 스트리밍해야 하는 에이전트 UI에는 유용합니다.
유휴 상태일 땐 저장 비용만 청구된다
비용 구조도 에이전트 워크로드에 유리하게 맞아떨어집니다. DO는 유휴 상태일 때 저장 비용만 청구되고, 실제로 요청을 처리할 때만 컴퓨트 비용이 붙습니다.
에이전트는 항상 바쁘게 돌아가는 게 아니라, 대기하다가 이벤트가 오면 반응하는 패턴이 많죠. 이런 패턴에서는 상시 가동 서버를 두는 것보다 유휴 비용이 저렴한 구조가 훨씬 경제적입니다.
Paterson은 이 방식으로 월 10달러 수준까지 비용을 낮췄다고 밝혔습니다. AWS 기반 구조와 비교하면 10배에서 50배 저렴했다는 겁니다. 프리뷰 환경은 거의 무료에 가깝다는 점도 곁들였습니다.
코딩 에이전트 입장에서도 이점이 있습니다. DO 기반 코드베이스는 구조가 단순해서, 에이전트가 탐색해야 할 코드량 자체가 줄어듭니다. 코드를 이해하는 데 드는 토큰이 줄어든다는 뜻이죠.
인프라를 고를 때 하나의 참고점
물론 이 글은 저자 개인의 실전 경험담이라는 점을 염두에 둘 필요가 있죠. Paterson은 Cloudflare 관련 지분을 보유하고 있다는 사실도 함께 공개했습니다. 모든 워크로드에 DO가 정답이라는 뜻은 아니라는 겁니다.
다만 에이전트를 여러 개 동시에 다뤄야 하는 개발자라면 눈여겨볼 만한 지점입니다. 객체 단위 격리, 단일 스레드로 인한 동시성 부담 감소, 유휴 시 저렴한 비용 구조. 이 세 가지가 겹치는 지점에서 DO는 에이전트 인프라의 새로운 선택지로 자리 잡고 있습니다.
답글 남기기