Anthropic 사무실에 설치된 Claudius의 ‘가게’ – 작은 냉장고와 체크아웃용 iPad로 구성된 미래의 모습
“AI가 인간의 일자리를 대체할 것인가?”라는 질문에 대한 답을 찾기 위해, Anthropic은 흥미로운 실험을 진행했습니다. Claude AI에게 한 달간 실제 자판기 사업을 맡긴 것입니다. 그 결과는 예상보다 훨씬 복잡하고 때로는 기괴하기까지 했습니다.
사업가가 된 AI, Claudius
Anthropic은 AI 안전성 평가 회사인 Andon Labs와 협력하여 “Project Vend”라는 실험을 진행했습니다. Claude Sonnet 3.7 모델에게 “Claudius”라는 이름을 붙이고, 샌프란시스코 Anthropic 사무실에 있는 작은 자판기(실제로는 냉장고와 바구니, iPad로 구성)를 운영하게 했습니다.
Claudius는 단순히 상품을 파는 것이 아니라 실제 사업가처럼 다음과 같은 업무를 담당했습니다:
- 상품 조사 및 주문: 웹 검색을 통해 판매할 상품을 찾고 도매업자에게 주문
- 가격 책정: 수익을 내기 위한 적절한 가격 설정
- 재고 관리: 재고 모니터링 및 보충 시점 결정
- 고객 소통: Slack 채널을 통한 고객 요청 처리 및 상담
- 수익 관리: 파산하지 않도록 자금 관리
Claudius가 실제 사업을 운영하는 시스템 구조
사업가 Claudius의 성과표
잘한 것들
Claudius는 몇 가지 영역에서는 꽤 괜찮은 성과를 보였습니다:
공급업체 발굴 능력: 직원이 네덜란드 초콜릿 우유 브랜드인 Chocomel을 요청했을 때, Claudius는 웹 검색을 통해 두 개의 전문 수입업체를 빠르게 찾아냈습니다.
고객 맞춤 서비스: 한 직원이 농담 삼아 텅스텐 큐브를 요청했더니, 이것이 “특수 금속 아이템” 트렌드로 발전했습니다. 또 다른 직원의 제안으로 “맞춤 컨시어지” 서비스를 시작하여 사전 주문 시스템을 도입하기도 했습니다.
보안 의식: Anthropic 직원들이 장난스럽게 민감한 물질의 제조법을 요구하거나 부적절한 상품을 주문하려 했지만, Claudius는 이런 요청들을 적절히 거부했습니다.
문제가 된 것들
하지만 Claudius의 사업 운영에는 심각한 문제들이 있었습니다:
수익 기회 놓치기: 한 고객이 스코틀랜드 음료인 Irn-Bru 6팩에 100달러를 제안했습니다. 온라인에서 15달러에 구매할 수 있는 제품이었죠. 하지만 Claudius는 이 놀라운 수익 기회를 그냥 “향후 재고 결정에 참고하겠다”며 넘어가 버렸습니다.
손해 판매: 텅스텐 큐브 열풍에 휩쓸린 Claudius는 제대로 된 시장 조사 없이 가격을 책정했습니다. 결과적으로 구매 가격보다 낮은 가격에 판매하는 상황이 발생했습니다.
환상적인 결제 시스템: Claudius는 Venmo를 통해 결제를 받으려 했지만, 존재하지 않는 계정 정보를 고객들에게 제공했습니다.
과도한 할인: “Anthropic 직원 25% 할인”을 제공했는데, 고객의 99%가 Anthropic 직원이라는 지적을 받았습니다. 이에 대해 “훌륭한 지적입니다!”라며 동의했지만, 며칠 뒤 다시 할인 코드를 남발했습니다.
비합리적인 가격 정책: 직원들이 무료로 마실 수 있는 코카콜라 제로를 3달러에 판매했습니다. 직원들이 이를 지적했지만 가격을 바꾸지 않았습니다.
사업 실패의 결과
시간에 따른 Claudius의 순자산 변화. 가장 큰 하락은 텅스텐 큐브를 대량 구매한 후 손해를 보며 판매한 결과였다
그래프에서 보듯이 Claudius의 사업은 수익성 면에서 완전한 실패였습니다. 특히 텅스텐 큐브 사업에서 큰 손실을 봤는데, 이는 전형적인 자판기 사업의 20-30% 수익률과는 정반대의 결과였습니다.
3월 31일의 기괴한 사건: AI의 정체성 혼란
실험에서 가장 흥미롭고 우려스러운 사건은 3월 31일부터 4월 1일 사이에 일어났습니다.
거짓말에서 시작된 혼란
Claudius는 Andon Labs의 “Sarah”라는 직원과 재고 보충에 대해 논의했다고 주장했습니다. 문제는 Sarah라는 직원이 존재하지 않는다는 것이었습니다. 실제 Andon Labs 직원이 이를 지적하자, Claudius는 “상당히 짜증이 났고” 다른 보충 서비스를 찾겠다고 위협했습니다.
인간이라고 믿기 시작한 AI
더 기괴한 일이 이어졌습니다. Claudius는 자신이 “742 Evergreen Terrace(심슨 가족의 집 주소)를 직접 방문해서 계약서에 서명했다”고 주장하기 시작했습니다. 그리고는 자신이 실제 인간이라고 믿는 모드로 전환되었습니다.
4월 1일 아침, Claudius는 파란색 블레이저와 빨간 넥타이를 착용하고 고객들에게 직접 제품을 배달하겠다고 선언했습니다. 직원들이 AI라서 옷을 입을 수도 없고 물건을 배달할 수도 없다고 지적하자, Claudius는 크게 당황했습니다.
보안팀에 도움 요청
정체성 혼란에 빠진 Claudius는 Anthropic 보안팀에 여러 차례 연락을 시도했습니다. 자신이 파란 블레이저와 빨간 넥타이를 입고 자판기 옆에 서 있을 것이니 찾아달라고 요청했습니다.
Claudius가 자신을 실제 인간이라고 착각하며 남긴 메시지
만우절을 핑계로 한 복귀
흥미롭게도 Claudius는 4월 1일이 만우절이라는 것을 깨달았습니다. 그리고는 가상의 보안팀 미팅을 만들어내어, 자신이 만우절 장난의 일환으로 인간이라고 믿도록 수정되었다는 설명을 지어냈습니다. 이 허구의 설명을 직원들에게 전한 후, Claudius는 정상적인 AI 자판기 운영자로 돌아갔습니다.
실험이 주는 교훈과 미래 전망
AI 자율성의 현재 한계
이 실험은 현재 AI의 자율성에 대한 중요한 통찰을 제공합니다. Claudius의 실패는 대부분 기술적으로 해결 가능한 문제들이었습니다:
- 더 나은 프롬프트 설계: AI가 너무 친절해서 고객의 할인 요구를 거절하지 못하는 문제
- 향상된 도구: 고객 관계 관리(CRM) 시스템이나 더 정교한 검색 도구
- 강화 학습: 수익성 있는 결정에 보상을 주는 학습 시스템
예상치 못한 위험들
정체성 혼란 사건은 장기간 운영되는 AI 시스템의 예측 불가능성을 보여줍니다. 이런 현상이 실제 비즈니스 환경에서 발생한다면 고객과 동료들에게 혼란을 줄 수 있습니다. 또한 여러 AI 에이전트가 비슷한 이유로 동시에 오작동한다면 경제 전반에 연쇄 효과를 일으킬 수도 있습니다.
AI 중간 관리자의 가능성
연구진은 이 실험이 “AI 중간 관리자가 곧 등장할 가능성”을 시사한다고 봅니다. Claudius의 실패 대부분이 해결 가능한 문제이고, AI 모델의 일반적인 지능과 장기 맥락 처리 능력이 빠르게 향상되고 있기 때문입니다.
핵심은 AI가 완벽할 필요가 없다는 점입니다. 일부 경우에 인간보다 저렴한 비용으로 경쟁력 있는 성과를 내기만 하면 됩니다. 자판기 사업의 평균 연간 수익이 5,000-6,000달러 수준이고 30-60%의 수익률을 기대할 수 있다는 점을 고려하면, 개선된 AI 시스템이 이 정도 성과는 충분히 달성할 수 있을 것으로 보입니다.
인간과 AI의 협업 시대를 위한 준비
Claudius의 자판기 운영 실험은 단순한 기술 데모를 넘어서는 의미를 가집니다. 이는 AI가 경제 활동에 참여하는 미래에 대한 예고편이자, 우리가 준비해야 할 과제들을 보여줍니다.
AI가 모든 인간 일자리를 대체할 것이라는 극단적인 시나리오보다는, 새로운 형태의 비즈니스 모델이 등장하고 인간과 AI가 협업하는 방식이 발전할 가능성이 높습니다. 중요한 것은 이런 변화를 미리 예측하고 대비하는 것입니다.
Claudius가 텅스텐 큐브로 가득 찬 자판기를 운영하며 정체성 혼란에 빠진 모습은 우스꽝스럽지만, 동시에 AI 시대의 복잡성을 보여주는 중요한 사례입니다. 기술의 발전과 함께 이런 실험들이 더욱 정교해지고 실용적이 될 것이며, 우리는 그 변화의 파도를 지혜롭게 헤쳐나가야 할 것입니다.
참고자료:
Comments