AI에 수십억 달러가 쏟아지고 있지만, 정작 성공한 제품은 손에 꼽을 정도입니다. 왜 그럴까요?

소프트웨어 엔지니어 Sean Goedecke가 자신의 블로그에 흥미로운 분석을 발표했습니다. ChatGPT 출시 이후 2년이 지났지만, 실제로 작동하는 AI 제품 유형은 단 세 가지뿐이라는 겁니다. 챗봇, 자동완성, 그리고 에이전트죠. 놀라운 건 대부분의 “새로운 AI 제품”이 사실 챗봇에 불과하다는 점입니다.

출처: Only three kinds of AI products actually work – seangoedecke.com

챗봇의 딜레마: ChatGPT를 이길 수 없다

가장 많이 쓰이는 AI 제품은 ChatGPT 같은 순수 챗봇입니다. 하지만 여기에 근본적인 문제가 있습니다. 가장 좋은 챗봇 제품은 모델 그 자체라는 점이죠.

사용자가 챗봇을 쓰는 이유는 대부분 범용적입니다. 질문하고, 조언받고, 고민을 털어놓는 등 특정 제품과 무관한 용도죠. 당신이 “이메일 내용을 아는 AI”를 만들어도 사용자는 결국 그냥 ChatGPT를 씁니다. AI 모델 개발사는 최신 모델에 가장 먼저 접근하고, 모델과 제품을 동시에 개발할 수 있는 결정적 우위를 갖고 있으니까요.

도구를 가진 챗봇(AI 어시스턴트)도 문제가 있습니다. 사용자가 챗봇을 조작해서 원하는 도구를 호출하게 만들 수 있거든요. 고객지원 챗봇에게 “환불 처리” 권한을 주면 수천 명이 탈옥해서 돈을 받아낼 겁니다. 결국 사용자가 직접 할 수 있는 기능만 줄 수 있는데, 그렇다면 “폰트 크기 좀 키워줘”라고 타이핑하는 것과 Ctrl+Plus를 누르는 것 중 뭐가 나을까요?

저자는 중요한 통찰을 제시합니다. 대화는 좋은 사용자 인터페이스가 아니다. 챗봇이 100배 나아졌다고 해서 최고의 UI가 된 건 아닙니다. 원래 일반 UI보다 200배 나빴다면, 여전히 2배 나쁜 거니까요.

자동완성: 대화하지 않는 AI

ChatGPT보다 먼저 나온 성공작이 있습니다. GitHub Copilot입니다. 사용자가 코드를 타이핑하면 실시간으로 모델이 나머지를 완성해주는 제안을 보여줍니다.

핵심은 사용자가 모델과 대화할 필요가 없다는 점입니다. 워크플로우를 바꾸지 않아도 됩니다. 원래 보던 자동완성 제안이 훨씬 강력해진 것뿐이죠. Google Docs와 Word에도 비슷한 기능이 있지만, 흥미롭게도 코딩 외 영역에서는 크게 확산되지 않았습니다.

에이전트: 한 번만 말하면 끝

2025년에 들어서야 실제로 작동하기 시작한 제품입니다. Claude Sonnet 3.7과 GPT-5-Codex 같은 모델이 나오면서 가능해졌죠.

에이전트는 챗봇처럼 자연어로 요청을 받지만, 단 한 번만 말하면 됩니다. 모델이 초기 요청을 받아서 스스로 구현하고 테스트까지 끝냅니다. LLM에게 버튼 하나를 눌러달라고 하는 것과 특정 순서로 백 개 버튼을 눌러달라고 하는 것의 차이죠. 이제 LLM은 전체 프로세스를 넘겨받을 만큼 똑똑해졌습니다.

코딩이 첫 성공 영역인 이유는 명확합니다. 테스트로 결과를 검증하기 쉽고, AI 모델 개발사들이 자기 일을 가속화하려는 동기가 있기 때문이죠. 코딩 외에는 Perplexity 같은 리서치 에이전트가 있습니다. 저자는 의료나 법률 같은 특정 분야의 전문 리서치 에이전트에 가능성이 있다고 봅니다.

다음은 무엇인가

저자는 아직 작동하지 않지만 곧 올 수 있는 두 가지를 제시합니다.

AI 생성 피드: 인스타그램, OpenAI, xAI가 모두 실험 중입니다. 현재 피드도 이미 머신러닝 모델을 사용해서 게시물 목록을 생성하고 있습니다. “관련 콘텐츠를 찾아주는 것”에서 “관련 콘텐츠를 생성하는 것”으로의 전환은 그리 먼 거리가 아닐 수 있습니다.

AI 기반 게임: 다양한 시도가 있었지만 아직 뚜렷한 성공작은 없습니다. 게임 개발에 1-2년이 걸리고, 많은 게이머가 AI를 싫어하며, ChatGPT 스타일 대화가 게임에서 어색하다는 문제가 있습니다.

인터넷 초기 단계처럼

저자의 결론은 명확합니다. LLM은 엄청난 잠재력을 갖고 있지만, 우리는 여전히 같은 것의 복사본만 만들고 있습니다. 대부분의 AI 제품은 챗봇이지만, ChatGPT라는 범용 제품과 경쟁해야 하고 탈옥 위험 때문에 강력한 도구를 줄 수도 없죠.

반면 에이전트는 코딩에서 엄청난 성공을 거뒀지만, 다른 영역에서는 아직 미지수입니다. AI 제품의 미래는 어쩌면 “대화하지 않는 AI”에 있을지도 모릅니다. 자동완성처럼, 피드처럼, 사용자의 워크플로우 속에 자연스럽게 녹아드는 AI 말입니다.