한 앤트로픽 직원이 Claude에게 무리한 숙제를 던졌습니다. 1859년부터 미해결로 남은 리만 가설을 진지하게 풀어보라는 것이었죠.

결과부터 말하면 Claude는 리만 가설을 풀지 못했습니다. 백만 달러 상금이 걸린 난제가 그렇게 쉽게 풀릴 리 없죠. 그런데 시도하는 과정에서 예상 밖의 성과를 냈습니다. 미공개 연구용 Claude가 이 가설과 맞닿은 한 문제에서, 수십 년간 조금씩 올라온 하한값을 41.6%에서 67.2%로 끌어올린 겁니다. 앤트로픽이 이 과정을 공개했습니다.

출처: Learning more about Claude’s mathematical capabilities – Anthropic

Claude가 실제로 푼 문제

리만 가설을 한 줄로 옮기면 이렇습니다. 소수의 분포를 설명하는 리만 제타 함수가 있는데, 이 함수가 0이 되는 지점들이 모두 특정한 수직선 위에 놓여 있다는 추측입니다. 소수가 어디에 나타나는지를 좌우하는 문제라, 수학의 수많은 결과가 이 추측이 참이라고 가정한 채 세워져 있죠.

Claude가 건드린 건 가설 그 자체가 아니라 그 언저리의 문제였습니다. “0이 되는 지점 중에서 그 직선 위에 있는 것의 최소 비율은 얼마인가”라는 질문이죠. 수학자들은 오랜 시간에 걸쳐 이 비율을 41.6%까지 끌어올려 뒀죠. Claude는 여기에 이어붙여 67.2%까지 밀어냈습니다. 없던 길을 혼자 낸 게 아니라, 앞선 연구자들이 쌓아둔 기법 위에 한 층을 더 올린 셈입니다.

이 결과를 어떻게 믿을 수 있나

AI가 수학 문제를 풀었다고 하면 가장 먼저 드는 의심은 “정말 맞는 거냐”입니다. 그럴듯한 문장을 지어냈을 뿐일 수도 있으니까요. 이번 발표가 흥미로운 지점은 그 의심에 답하는 방식에 있습니다.

Claude는 결과를 세 겹으로 남겼습니다. 정식 논문, 전문가용으로 증명을 간결하게 정리한 비공식 노트, 그리고 Lean으로 작성한 형식 증명입니다. 형식 증명은 기계가 한 단계씩 논리를 검증할 수 있는 형태라, 사람이 놓친 비약이 있으면 통과하지 못하죠.

여기에 앤트로픽 소속 수학자 두 명이 논문을 검토했고, 이 분야 전문가인 브라이언 콘리와 댄 골드스턴이 촉박한 일정에도 결과를 살펴봤습니다. AI가 낸 수학 결과를 사람과 기계가 함께 교차 검증한 사례입니다.

과장하지 않기

앤트로픽은 선을 분명히 그었습니다. 이번에 Claude가 쓴 기법이 리만 가설 전체의 증명으로 이어질 걸로는 보지 않는다고 못박았죠. 난제 하나가 무너진 사건이 아니라, AI의 수학 능력이 얼마나 빠르게 나아가는지 보여주는 한 장면이라는 겁니다.

그럼에도 눈여겨볼 대목은 있습니다. AI가 기존 지식을 요약하거나 재배열한 게 아니라, 사람이 세워둔 최신 성과 위에서 한 걸음을 더 내디뎠다는 점입니다. 얼마 전 Claude가 에르되시가 낸 미해결 문제들을 골라 풀었다는 소식과도 결이 이어지죠. AI가 지식노동의 최전선에서 ‘새로운 결과’를 만들어내기 시작했고, 그 결과를 형식 증명으로 검증까지 할 수 있다는 것. 어떤 일을 AI에 맡길 수 있는지 가늠하는 사람에게는 그 자체가 신호입니다.

증명의 구체적 전개와 Claude가 문제에 접근한 방식은 원문에 더 자세히 담겨 있습니다.

참고자료: zeta-23-lean (Lean 형식 증명 저장소) – Anthropic