직원 14명이 만든 도구를 매달 890만 명의 개발자가 씁니다. 포춘 500 기업 85퍼센트에서도 이미 쓰이고 있습니다. 이 정도 침투율이면 큰 회사를 떠올리기 쉽지만, 이 모든 걸 만든 건 소규모 팀입니다.
로컬 AI 실행 도구 Ollama가 8,800만 달러 투자를 유치했다고 공식 블로그를 통해 밝혔습니다. 벤치마크의 피터 펜튼, Theory Ventures의 토마스 툰구즈를 비롯해 Docker 창업자 솔로몬 하이크스, ClickHouse CEO 아론 캐츠 등 업계 인사들이 다수 참여했습니다. 창업자 제프 모건과 마이클 챙은 이 도구를 개인용 컴퓨터에서 오픈웨이트 AI 모델을 몇 분 만에 돌릴 수 있게 해주는 서비스라고 설명합니다.
출처: Ollama: all aboard open models – Ollama
연구자용 모델을 개발자용으로 바꾼 도구
Ollama가 등장한 배경에는 오픈웨이트 모델이 처음 나왔을 때의 불편함이 있습니다. 몇 년 전부터 강력한 오픈모델들이 쏟아지기 시작했지만, 두 창업자에 따르면 이 모델들은 자유롭게 내려받을 수는 있어도 정작 개발자가 API처럼 편하게 갖다 쓰기엔 너무 복잡했습니다. Ollama는 이 진입장벽을 낮춰서, 명령어 하나면 자기 컴퓨터에서 최신 오픈모델을 바로 실행하고 간단한 API로 그 위에 뭔가를 만들 수 있게 했습니다.
이 방식이 낯설지 않다면 이유가 있습니다. 모건과 챙은 대학 시절 함께 만든 첫 스타트업 Kitematic으로 시작해, 2015년 이 회사가 Docker에 인수되면서 이듬해 나온 Docker Desktop을 만든 장본인들입니다. 이 도구는 현재 전 세계 1천만 명 넘는 개발자가 씁니다. Docker가 클라우드 앱을 환경 간에 손쉽게 옮길 수 있도록 하드웨어 설정의 번거로움을 대신 처리해줬다면, Ollama는 같은 접근법을 오픈 AI 모델에 그대로 적용한 셈입니다.
“내 모델, 내 기기, 내 데이터”
Ollama가 스스로 내세우는 원칙은 세 가지입니다. 소유권, 경제성, 프라이버시입니다. 오픈모델은 다운로드한 순간부터 온전히 내 것이 되어 자유롭게 바꾸고 최적화할 수 있고, 에이전트나 앱이 의존하는 모델을 남이 마음대로 바꾸거나 막을 수 없습니다. 내 하드웨어에서 돌아가는 모델은 토큰 하나하나에 요금이 붙는 클라우드 API와 달리 마음껏 실험하고 반복해도 비용 걱정이 없습니다. 로컬로 돌리는 동안에는 데이터가 내 컴퓨터 밖으로 나갈 일도 없습니다.
두 창업자는 이 순간을 개인용 컴퓨터가 처음 등장했을 때에 비유합니다. 컴퓨팅이 거대한 메인프레임 방을 벗어나 개인 책상 위로 올라오면서 누구나 소유하고 바꾸고 만들 수 있게 됐던 것처럼, 오픈모델이 AI에게 같은 순간을 만들어주고 있다는 설명입니다. Ollama 자체는 로컬 실행 환경을 무료로 제공하면서, 자체 클라우드에 호스팅한 더 크고 복잡한 모델은 구독으로 접근하게 하는 구조를 갖추고 있습니다. 요금제는 무료부터 월 100달러까지 다양하고, 과금 기준은 토큰 사용량이 아니라 GPU 사용 시간입니다. 클라우드 API를 계속 호출하는 대신, 필요할 때만 더 강력한 모델을 빌려 쓰는 선택이 가능해진 셈입니다. Ollama의 클라우드 쪽 토큰 사용량은 매달 두 배 넘게 늘고 있다고 합니다.
이미 큰 기업들 안에 들어와 있다
오픈모델은 더 이상 실험이나 연구 프로젝트 수준에 머물지 않습니다. Ollama가 포춘 500 기업의 85퍼센트에서 쓰이고 있다는 사실이 이를 보여줍니다. 회사 안에서 개인 컴퓨터 한 대로 오픈모델을 처음 돌려보던 재미가, 이제는 그동안 폐쇄형 모델만 감당할 수 있다고 여겨졌던 어려운 문제들을 푸는 쪽으로 옮겨가고 있는 셈입니다.
개인 사용자 입장에서 이 흐름이 갖는 의미는 단순합니다. 클라우드 서비스에 매번 요금을 내는 대신, 내 컴퓨터에서 직접 모델을 돌려볼 수 있는 선택지가 이제는 설치 몇 분이면 충분할 만큼 쉬워졌다는 점입니다. 890만 명이라는 사용자 수는 이 선택지가 더 이상 소수 얼리어답터만의 영역이 아니라는 걸 보여주는 숫자입니다.
참고자료:
답글 남기기