큰 작업은 성능 좋은 클라우드 모델에, 민감하거나 반복적인 작업은 내 컴퓨터의 오픈 모델에. 이걸 앱을 바꾸지 않고 토글 하나로 오갈 수 있다면 어떨까요.

Ollama가 Claude 데스크톱 앱을 서드파티 게이트웨이로 연결하는 방법을 공개했습니다. Ollama는 오픈 모델을 내 컴퓨터에서 손쉽게 돌리게 해주는 도구인데, 이제 Claude 앱이 그 Ollama를 통로 삼아 로컬 모델이나 Ollama 클라우드 모델을 쓸 수 있습니다. 필요하면 언제든 원래 Claude 설정으로 되돌아오고요.

출처: Claude Desktop support with Ollama – Ollama

한 앱에서 클라우드와 로컬을 오간다

핵심은 선택지가 하나 늘었다는 데 있습니다. 지금까지 Claude 데스크톱 앱은 Anthropic의 클라우드 모델을 쓰는 창구였습니다. 여기에 Ollama를 연결하면, 같은 앱 안에서 내 컴퓨터에 설치된 오픈 모델로 갈아탈 수 있습니다.

쓰임새는 자연스럽게 갈립니다. 긴 코딩 작업이나 깊은 리서치처럼 무거운 일은 클라우드의 큰 모델에 맡기고, 가볍거나 반복적인 일, 혹은 밖으로 내보내고 싶지 않은 내용은 로컬 모델에 돌리는 식이죠. Ollama에서 Claude를 끄면 이전 설정으로 그대로 복원됩니다. 한쪽에 갇히지 않고 오갈 수 있다는 게 이 연동의 요점입니다.

데이터는 어디로 가는가

로컬 모델을 찾는 이유의 상당수가 프라이버시입니다. 이 지점에서 Ollama가 밝힌 내용은 분명합니다. 프롬프트나 데이터가 Anthropic이나 Ollama로 전송되지 않고, 텔레메트리(사용 정보 수집)는 기본적으로 꺼져 있습니다. Ollama는 클라우드든 로컬이든 모든 모델과 서비스에 걸쳐 데이터를 남기지 않는 정책을 둔다고 설명합니다.

그렇다고 로컬이 늘 정답은 아닙니다. 내 컴퓨터에서 도는 오픈 모델은 최상위 클라우드 모델만큼의 성능을 내기 어렵고, 큰 모델일수록 그만한 메모리와 연산을 요구합니다. “밖으로 내보내면 안 되는 작업”이나 “굳이 큰 모델이 필요 없는 가벼운 작업”에서 로컬이 빛나고, 정확도와 속도가 최우선인 무거운 작업에서는 여전히 클라우드가 앞섭니다.

어떻게 연결되나

작동 구조 자체는 단순합니다. Ollama가 Claude 앱과 로컬 모델 사이에 게이트웨이(중계 통로)로 서고, Claude 앱은 그 통로를 통해 모델에 요청을 보냅니다. 연결된 상태에서는 Ollama 안의 어떤 모델이든 골라 쓸 수 있고, 로컬 모델과 Ollama 클라우드 모델을 함께 고를 수 있습니다. Anthropic 모델로 돌아가고 싶으면 Ollama 안에서 기능을 토글하면 됩니다.