벤처 캐피탈(VC) 업계는 수많은 스타트업 중에서 유망한 투자처를 발굴하는 것이 핵심 과제입니다. 이 과정은 방대한 데이터를 분석하고 다양한 요소를 고려해야 하는 복잡한 작업입니다. 특히 초기 단계 스타트업을 발굴하는 것은 더욱 어려운 도전이 됩니다. 이러한 문제를 해결하기 위해 스타트업 발굴 플랫폼인 Harmonic이 LangGraph와 LangSmith를 활용하여 혁신적인 AI 투자 에이전트를 구축한 사례를 살펴보겠습니다.
Harmonic: 스타트업 발굴 엔진
Harmonic 플랫폼 UI (출처: Harmonic.ai)
Harmonic은 스타트업 발굴 엔진으로, 회사 설립과 성장 과정을 추적하며 벤처 캐피털(VC)에게 가치 있는 인사이트와 워크플로우 도구를 제공합니다. 이 플랫폼은 공개 데이터와 벤처 생태계 파트너십을 통해 수집한 비공개 데이터를 집계함으로써 사용자가 다양한 기준에 따라 스타트업을 발견할 수 있도록 지원합니다.
하지만 Harmonic은 여기서 한 걸음 더 나아가고자 했습니다. 단순히 스타트업을 찾는 것에서 벗어나, 투자 파이프라인의 여러 단계를 자동화하여 VC들이 유망한 스타트업을 식별하고, 분석하고, 최종적으로 투자 결정을 내리는 과정을 더욱 효율적으로 만들고자 했습니다.
도전 과제: 복잡한 스타트업 검색과 평가 과정
초기 Harmonic 플랫폼은 방대한 검색 인덱스와 강력한 검색 인터페이스를 갖추고 있었지만, 사용자들이 실제로 관심 있는 스타트업을 찾기 위해서는 수백 개의 필드에 걸쳐 복잡한 필터링을 조합해야 했습니다. 이는 시간이 많이 소요될 뿐만 아니라, 때로는 최적의 대상을 찾는 것을 방해하기도 했습니다.
Harmonic은 자연어 검색과 정제 기능을 구현하여 이 과정을 크게 단순화하고자 했습니다. 이를 통해 사용자가 자신의 투자 논리에 가장 적합한 스타트업을 찾는 데 필요한 시간을 대폭 줄이는 것이 목표였습니다.
솔루션: LangGraph와 LangSmith의 도입
LangGraph Studio: 에이전트 디버깅과 모듈식 워크플로우
Harmonic 팀은 LangGraph의 생태계 접근 방식 때문에 이 기술을 선택했습니다. 이를 통해 통합 스택을 구성할 수 있었고, LangSmith에 모든 프롬프트를 호스팅하고, LangChain으로 목표 모델을 호출하며, LangGraph로 복합적인 워크플로우를 구축할 수 있었습니다.
LangGraph Studio는 Harmonic의 개발 과정에서 게임 체인저로 작용했습니다. 이 시각적 스튜디오를 통해 엔지니어들은 상태를 추적하고 에이전트 워크플로우의 모든 노드에서 호출된 정확한 상태의 LLM에 직접 연결할 수 있어 디버깅 시간을 크게 단축시켰습니다.
Harmonic의 CEO인 Max Ruderman은 다음과 같이 언급했습니다:
“이 UI는 디버깅에 매우 귀중합니다. 모든 노드를 다시 실행하는 대신, 어떤 시점에서든 그래프 상태를 직접 검사하고, 변경하고, 그 지점에서 다시 실행한 다음 차이점을 관찰할 수 있습니다. 또는 실행 시간의 모든 컨텍스트가 이미 있는 플레이그라운드에서 해당 실행을 열어 다른 모델이나 지시사항으로 즉시 실험할 수 있습니다.”
LangGraph의 모듈식 프레임워크는 Harmonic이 에이전트 워크플로우를 제품의 다른 부분으로 빠르게 확장할 수 있게 해주었습니다. 예를 들어, 독립적인 워크플로우가 서브그래프로 모듈화되었기 때문에, 더 복잡한 워크플로우의 하위 구성 요소였던 “연구 에이전트”를 거의 추가 백엔드 작업 없이 플랫폼의 모든 회사 프로필로 가져올 수 있었습니다. 이는 투자자들이 스크리닝, 평가, 실사에 드는 시간을 절약할 수 있게 해주며, 모든 창업자 미팅에 준비된 상태로 참석할 수 있게 해줍니다.
자연어 검색과 쿼리 정제
Harmonic은 LangGraph의 기능을 활용하여 사용자 의도를 정제하고 검색 쿼리를 구조화하기 위한 서브그래프를 빠르게 개발했습니다. 이를 통해 다음과 같은 복잡한 쿼리를 실행할 수 있는 정교한 검색 에이전트를 만들 수 있었습니다:
“지난 1년 동안 최고 투자자들로부터 자금을 조달받은 SF나 NY에 있는 AI 회사 중에서 우리 팀 구성원과 연결되어 있지만, 지난 1년 동안 팀 구성원이 접촉하지 않은 회사를 보여주세요.”
이제 투자자들은 관심 있는 문제 영역, 산업, 존재해야 할 제품, 특정 창업자 배경 등을 단순히 설명하기만 하면 Harmonic이 자연어 쿼리를 정확하고 실행 가능한 검색 결과로 변환합니다.
LangSmith: 평가 및 협업적 프롬프트 반복
LangSmith를 통해 Harmonic 팀은 모델 호출을 추적하고 플레이그라운드 환경에 원활하게 통합할 수 있었습니다. 이는 팀에게 모델 성능과 사용자 상호작용에 대한 가시성을 제공했으며, 이전에는 분산된 시스템으로는 달성하기 어려웠습니다.
LangSmith의 주요 기능 중 하나는 견고한 프롬프트 버전 관리 시스템이었습니다. Harmonic 팀은 프롬프트 엔지니어링에 협업적 접근 방식을 취했는데, 한 엔지니어가 모델 작성과 프롬프트 튜닝을 더 많이 담당하고 다른 엔지니어들이 프롬프트 개선에 협력했습니다. 이러한 협업 환경은 맞춤형 모델을 위한 파인튜닝 노력으로 확장되었으며, LangSmith의 추적 기능은 최적화에 필수적인 데이터를 제공했습니다.
LangSmith와 LangGraph의 통합은 Harmonic의 반복 주기를 가속화하는 강력한 개발 생태계를 만들었습니다. 실행 추적을 특정 프롬프트에 연결할 수 있어 개발자들이 성능 패턴을 분석하고 데이터 기반 조정을 할 수 있었습니다. 검색 에이전트에 문제가 발생했을 때, 팀은 문제가 프롬프트 설계, 모델 한계, 또는 그래프 구조에서 비롯된 것인지 빠르게 식별할 수 있었습니다.
LangSmith는 데이터셋과 평가를 관리하고 볼 수 있게 해주어 Harmonic의 개발 속도를 크게 향상시켰습니다. 이러한 평가를 통해 프롬프트나 에이전트 그래프 구성에 대한 변경 사항을 개별 노드 수준이나 전체 그래프 수준에서 사전 정의된 메트릭 세트를 통해 테스트할 수 있었습니다. 이를 통해 팀은 최신 LLM 모델의 발전에 발맞추기 위해 기본 LLM 모델을 자주 교체하더라도 빠르고 자신 있게 반복할 수 있었습니다.
성과와 비즈니스 임팩트
LangChain의 LangSmith와 LangGraph 구현은 Harmonic의 검색 및 연구 기능을 크게 개선했습니다. 사용자들은 특히 가장 창의적인 쿼리에서 더 관련성 높은 결과와 함께 “아하 모먼트”에 더 빨리 도달할 수 있게 되었습니다. 가치 발견까지의 시간은 몇 시간에서 1분 미만으로 줄어들었으며, 긍정적인 검색 결과는 30% 증가했습니다.
Harmonic은 또한 투자 과정 전반에 걸쳐 사용자에게 제공하는 가치를 높이는 새로운 기능을 추가할 수 있었습니다. 이제 즉각적인 시장 맵 제공과 Harmonic의 고유 데이터, 공개 웹에서 합성된 인사이트, 사용자의 CRM 데이터, 네트워크를 결합한 연구를 수행할 수 있는 능력을 제공합니다. 이제 선도적인 투자자들은 Harmonic을 통해 최고의 거래를 찾고, 선택하고, 성사시킬 수 있습니다.
AI가 투자 의사결정에 가져온 변화
이 사례는 AI, 특히 LLM과 에이전트 기술이 데이터 기반 의사결정 프로세스를 어떻게 혁신할 수 있는지 보여줍니다. 벤처 캐피털 업계에서는 다음과 같은 중요한 변화가 일어나고 있습니다:
- 검색과 발견의 민주화: 복잡한 필터링 대신 자연어로 검색할 수 있어 초보 VC도 경험 많은 VC처럼 효과적으로 스타트업을 발굴할 수 있습니다.
- 데이터 통합과 합성: AI는 방대한 양의 데이터 소스를 통합하고 의미 있는 인사이트로 합성할 수 있어, 투자자가 더 넓은 컨텍스트에서 결정을 내릴 수 있습니다.
- 인적 관계의 증강: AI는 인간 투자자를 대체하지 않고 그들의 능력을 증강시킵니다. 투자자들은 이제 데이터 분석에 시간을 덜 쓰고 창업자와의 관계 구축과 전략적 사고에 더 집중할 수 있습니다.
- 맞춤형 인사이트: AI 에이전트는 각 투자자의 선호도와 투자 논리에 맞춘 맞춤형 인사이트를 제공하여 개인화된 투자 경험을 가능하게 합니다.
결론
Harmonic의 사례는 최신 AI 기술이 어떻게 복잡한 산업 문제를 해결하고 비즈니스 프로세스를 혁신할 수 있는지를 보여주는 훌륭한 예입니다. LangGraph와 LangSmith와 같은 도구를 활용함으로써, 기업들은 사용자 경험을 개선하고 비즈니스 성과를 높이는 강력한 AI 에이전트를 구축할 수 있습니다.
이러한 기술의 발전은 향후 더 많은 산업 분야에서 유사한 혁신을 가져올 것으로 기대됩니다. 특히 복잡한 의사결정이 필요한 금융, 의료, 법률과 같은 분야에서 AI 에이전트의 활용이 더욱 확대될 것입니다. 이는 단순히 효율성을 높이는 것뿐만 아니라, 보다 정확하고 데이터에 기반한 결정을 내리는 데 도움을 줄 것입니다.
결국, Harmonic의 성공은 AI가 인간의 능력을 대체하는 것이 아니라 증강시키는 방향으로 발전할 때 가장 큰 가치를 창출한다는 것을 보여줍니다. 기술은 반복적이고 시간 소모적인 작업을 자동화하여 사람들이 더 높은 수준의 전략적 사고와 의사결정에 집중할 수 있게 해줍니다.
참고자료: How Harmonic built an investment agent with LangGraph and LangSmith— so VCs can focus on founders
Comments