GPU 클러스터를 쌓는 대신, AI가 스스로 자신의 코드를 고쳐 더 좋아지는 방식이 있다면 어떨까요. 이 아이디어를 2년간 조용히 실험해온 Sakana AI가 이제 전담 연구소까지 꾸렸습니다.

일본 AI 스타트업 Sakana AI가 재귀적 자기개선(RSI, Recursive Self-Improvement) 전문 연구소인 ‘RSI Lab’의 출범을 공식 발표했습니다. RSI란 AI 시스템이 스스로를 반복적으로 개선하며 성능을 끌어올리는 개념으로, 일반적인 AI 개발처럼 사람이 직접 개입해 모델을 튜닝하는 방식과는 다릅니다. RSI Lab은 이 자기개선 루프를 실제로 작동하는 시스템으로 만드는 데 초점을 맞춥니다.

출처: Introducing Sakana AI’s Recursive Self-Improvement (RSI) Lab – Sakana AI

이미 실전에서 작동하고 있다

RSI는 “언젠가 가능할지도 모르는 기술”로만 거론돼 왔습니다. Sakana AI가 흥미로운 이유는, 이미 여러 프로젝트에서 제한적이지만 실제로 작동하는 사례를 만들어냈다는 점입니다.

대표 사례는 Darwin Gödel Machine(DGM) 입니다. DGM은 AI 에이전트가 자신의 Python 코드를 직접 수정해 새로운 버전을 만들고, 각 버전을 벤치마크로 평가한 뒤, 더 나은 버전을 다음 세대의 출발점으로 삼는 방식으로 작동합니다. 생물 진화와 비슷한 구조죠. 이 방식으로 실제 GitHub 이슈 해결 능력을 평가하는 SWE-bench에서 성능이 20%에서 50%로 올랐습니다. 사람이 개입하지 않고 스스로 만들어낸 30%포인트 향상입니다.

LLM-Squared(LLM²) 는 또 다른 방향의 실험이었습니다. 언어 모델이 다른 언어 모델을 더 잘 학습시키는 방법을 스스로 고안하게 한 것인데, 이 과정에서 LLM이 직접 발견하고 작성한 선호 최적화 알고리즘이 기존 사람이 설계한 방식을 넘어섰습니다. ALE-Agent는 이 흐름의 또 다른 결과물로, 804명의 인간 전문가가 참가한 알고리즘 경진대회에서 1위를 차지했습니다. 더 많은 컴퓨팅 파워를 쓴 게 아니라, 실패에서 구조화된 교훈을 추출하는 자기학습 메커니즘 덕분이었습니다.

The AI Scientist는 아이디어 생성부터 실험, 논문 작성, 피어 리뷰까지 연구 과정 전체를 자동화한 시스템입니다. 이 연구는 2026년 3월 Nature에 게재됐습니다.

4단계 로드맵: 어디까지 왔고 어디로 가는가

Sakana AI는 RSI로 가는 경로를 네 단계로 정리합니다.

1. 에이전트 네이티브 모델: 챗봇이 아닌, 처음부터 에이전트 작업을 위해 설계된 기반 모델 구축
2. AI 과학자: 이 모델을 활용해 연구 전 과정을 자동화 (The AI Scientist가 여기에 해당)
3. 재귀적 자기개선: AI 에이전트가 자신의 기반 아키텍처 코드를 직접 수정하고 검증하는 단계
4. AI 민주화: RSI가 성숙하면 대규모 GPU 클러스터 없이도 프론티어 AI 개발이 가능해진다는 최종 목표

현재는 2단계와 3단계 사이 어딘가에 있습니다. 3단계가 제대로 작동하면 어떻게 될까요. AI가 자신의 구조를 스스로 고쳐가며 개선 속도가 복리처럼 쌓이는 상황이 됩니다.

일본이라는 제약, 그리고 전략적 역설

Sakana AI의 비전에는 지정학적 맥락이 깔려 있습니다. 미국의 빅테크와 중국 AI 랩은 세계 최대 규모의 GPU 클러스터를 운영합니다. 일본은 그 규모에 맞설 수 없습니다.

Sakana AI는 이 열세를 오히려 뒤집으려 합니다. 컴퓨팅이 넉넉하지 않을 때 살아남으려면 알고리즘 효율을 극한까지 끌어올릴 수밖에 없고, 그렇게 만들어진 기술이야말로 컴퓨팅 자원이 부족한 나머지 국가들에게도 실제로 쓸 수 있는 기술이 된다는 논리입니다. ShinkaEvolve가 150개의 샘플만으로 무차별 탐색이 필요한 문제를 푼 것도 이 방향성과 맞닿아 있습니다.

다만 솔직히 말하면, 아직은 검증되지 않은 베팅입니다. RSI 방식이 실제로 대규모 데이터센터의 구조적 우위를 상쇄할 수 있다는 증명은 없습니다. RSI 연구를 경계하는 시각도 있습니다. Anthropic은 최근 RSI가 잠재적 안전 우려 요소라고 명시적으로 경고했는데, 완전한 RSI가 실현되면 AI 시스템이 인간 기관이 따라잡을 수 없는 속도로 자체 발전을 주도할 수 있다는 우려에서입니다.

Sakana AI가 이 경쟁에서 어떤 결과를 만들어낼지는, 아직 열려 있는 질문입니다.

참고자료:

• Sakana AI bets AI that improves itself can break the compute arms race of frontier labs – The Decoder