LLM은 놀랍도록 많은 걸 해냅니다. 하지만 “2+2는?”이 아니라 복잡한 미분방정식을 풀거나, 신뢰할 수 있는 수치 데이터를 정확하게 계산하는 건 여전히 약점입니다. Stephen Wolfram이 바로 이 빈틈을 채우겠다며 나섰습니다.

Wolfram이 LLM을 위한 ‘Foundation Tool’을 공식 출시했습니다. Wolfram Language와 Wolfram|Alpha의 정밀 계산·지식 데이터베이스를 LLM 시스템에 직접 연결하는 기술로, MCP 서비스, Agent One API, CAG Component API 세 가지 방식으로 제공됩니다.

출처: Making Wolfram Tech Available as a Foundation Tool for LLM Systems – Stephen Wolfram Writings

LLM이 못하는 것, Wolfram이 채운다

LLM의 핵심 한계는 ‘정밀성’입니다. 언어 패턴에서 학습한 모델은 그럴듯한 답을 내놓지만, 계산이 정확하다는 보장이 없습니다. Wolfram은 이를 “LLM은 broad하지만 deep하지 않다”고 표현합니다.

Wolfram Language는 40년간 수학, 과학, 금융 등 방대한 도메인의 알고리즘과 데이터를 하나의 통합된 계산 언어로 구축해온 시스템입니다. LLM이 자연어로 추론하는 영역을 담당한다면, Wolfram은 그 뒤에서 정밀한 계산과 검증된 데이터를 제공하는 역할을 맡습니다. 두 기술이 각자의 강점에 집중하는 구조입니다.

CAG: RAG의 ‘계산 버전’

이번 출시의 핵심 기술은 CAG(Computation-Augmented Generation) 입니다. 이미 익숙한 RAG(Retrieval-Augmented Generation)가 기존 문서에서 내용을 가져와 LLM에 주입한다면, CAG는 실시간 계산으로 콘텐츠를 생성해 주입합니다.

예를 들어 LLM이 특정 수식을 풀거나 최신 데이터를 바탕으로 답해야 할 때, CAG는 Wolfram Language를 실행해 그 결과를 즉시 생성하고 LLM의 응답 흐름에 끼워 넣습니다. 검색해서 가져오는 게 아니라 계산해서 만들어내는 방식입니다. Wolfram은 이를 “무한히 확장 가능한 RAG”라고 설명합니다.

또 하나 주목할 점은 투명성입니다. Foundation Tool은 모든 결과와 함께 그 결과를 도출한 Wolfram Language 코드를 그대로 반환합니다. LLM만으로는 얻기 어려운 추적 가능한 계산 근거를 제공합니다.

세 가지 연결 방식

실제 도입 방식은 세 가지입니다. MCP 서비스는 MCP를 지원하는 대부분의 LLM 시스템에 즉시 연결 가능한 가장 빠른 방법입니다. Agent One API는 LLM과 Foundation Tool을 하나의 엔드포인트로 묶은 ‘LLM API 대체제’ 형태로, 기존 설정을 그대로 유지하면서 Wolfram의 계산 능력을 추가할 수 있습니다. CAG Component API는 각 계산 단계를 직접 제어하고 싶은 고도화된 통합에 적합합니다.

Wolfram이 처음 ChatGPT 플러그인을 선보인 건 2023년 3월이었습니다. 당시엔 생태계가 성숙하지 않아 제한적이었지만, 3년이 지난 지금 MCP 같은 표준 프로토콜이 자리를 잡으면서 본격적인 통합이 가능해졌다는 게 Wolfram의 판단입니다. Foundation Tool의 세부 기능 목록과 기술 사양은 원문과 공식 페이지에서 확인할 수 있습니다.

참고자료: Wolfram Foundation Tool 공식 페이지