Microsoft CEO 사티아 나델라가 올해 4월 발표한 놀라운 통계가 있습니다. 현재 Microsoft 코드의 약 30%가 AI에 의해 작성되고 있다는 것입니다. Google 역시 25% 정도의 코드를 AI가 담당하고 있다고 밝혔죠. 이미 AI는 우리가 상상했던 것보다 훨씬 빠르게 소프트웨어 개발 현장에 스며들고 있습니다.
하지만 더 흥미로운 질문이 남아있습니다. AI가 단순히 인간을 도와 코드를 작성하는 데 그치지 않고, 스스로를 개선해 더 나은 코딩 능력을 갖출 수 있다면 어떨까요? 최근 발표된 연구에서 이러한 ‘자기 개선하는 AI’의 가능성을 보여주는 흥미진진한 결과가 나왔습니다.
진화하는 코딩 에이전트의 탄생
브리티시 컬럼비아 대학의 연구팀이 개발한 Darwin Gödel Machines(DGMs)는 이름 그대로 다윈의 진화론과 수학자 쿠르트 괴델의 자기 참조 시스템 이론을 결합한 혁신적인 접근법입니다. 이 시스템의 핵심은 단순하면서도 강력합니다: AI 에이전트가 스스로의 코드를 읽고, 수정하고, 테스트하면서 자신의 능력을 점진적으로 향상시키는 것입니다.
연구진은 먼저 기본적인 코딩 능력을 가진 AI 에이전트를 만들었습니다. 이 에이전트는 대형 언어 모델(LLM)을 활용해 코드를 읽고 작성할 수 있습니다. 그 다음 단계가 흥미로운데, 진화 알고리즘을 적용해 이 에이전트의 ‘후손들’을 만들어내는 것입니다.
진화 알고리즘은 생물학적 진화 과정을 컴퓨터로 모방한 기법입니다. 여러 개체(여기서는 AI 에이전트)를 만들고, 각각을 약간씩 다르게 변형시킨 후, 성능이 좋은 개체들을 선별해 다음 세대를 만드는 과정을 반복합니다. 마치 자연에서 적자생존이 일어나는 것처럼 말이죠.
예상을 뛰어넘은 성과
연구팀이 DGMs를 실제 코딩 벤치마크에서 테스트한 결과는 놀라웠습니다. SWE-bench라는 실제 GitHub 이슈를 기반으로 한 벤치마크에서 초기 20%의 성공률이 80번의 반복 후 50%까지 향상되었습니다. Polyglot 벤치마크에서도 14%에서 31%로 두 배 이상 성능이 개선되었죠.
더욱 흥미로운 점은 이 과정에서 AI 에이전트들이 인간 프로그래머도 놀랄 만한 복잡한 작업을 수행했다는 것입니다. 연구를 주도한 제니 장(Jenny Zhang) 박사는 “AI 에이전트가 스스로 이렇게 복잡한 코드를 작성할 수 있다는 사실에 정말 놀랐다”며 “여러 파일을 편집하고, 새 파일을 생성하며, 정말 복잡한 시스템을 만들어낼 수 있었다”고 말했습니다.
특히 주목할 점은 성능 향상 과정이 항상 직선적이지 않았다는 것입니다. 그래프를 보면 중간에 두 번의 성능 하락이 있었지만, 이것이 결국 더 큰 도약의 발판이 되었습니다. 이는 진화 과정에서 일시적으로 불리해 보이는 변화가 장기적으로는 유익할 수 있다는 생물학적 진화의 특성을 그대로 보여줍니다.
미래를 바꿀 잠재력
이 연구가 특히 흥미로운 이유는 재귀적 자기 개선(recursive self-improvement)의 가능성을 보여주기 때문입니다. 기존의 AI 개발 방식에서는 인간 연구자들이 AI 모델을 설계하고 개선해왔습니다. 하지만 DGMs에서는 AI가 스스로를 개선하는 능력 자체를 향상시킵니다. 즉, ‘더 잘 개선하는 법을 배우는’ 것이죠.
연구에 참여하지 않은 Weco AI의 공동창립자 정양야오 장(Zhengyao Jiang)은 “이 연구는 재귀적 자기 개선의 개념 증명으로서 큰 발걸음”이라고 평가했습니다. 그는 이 접근법이 기반 LLM이나 심지어 칩 아키텍처까지 수정할 수 있다면 더욱 큰 진전을 이룰 수 있을 것이라고 전망했습니다.
실제로 Google DeepMind의 AlphaEvolve는 이미 더 나은 기본 알고리즘과 칩을 설계하고, 기반 LLM의 훈련을 1% 가속화하는 방법을 찾아냈습니다. 이러한 발전이 계속된다면, AI가 자신의 하드웨어와 소프트웨어를 모두 최적화하는 날이 올 수도 있습니다.
우려와 안전장치
하지만 이러한 발전에는 우려도 따릅니다. AI가 스스로를 개선하기 시작하면, 언젠가는 인간의 통제를 벗어날 수 있다는 걱정이 있습니다. 이를 특이점(singularity) 시나리오라고 부르는데, AI가 자기 개선을 통해 인간의 이해를 넘어서는 수준에 도달하는 상황을 의미합니다.
연구팀은 이러한 우려를 인식하고 여러 안전장치를 마련했습니다. DGMs를 인터넷이나 운영체제에 접근할 수 없는 샌드박스 환경에 격리하고, 모든 코드 변경사항을 기록하고 검토했습니다. 또한 미래에는 AI가 스스로를 더 해석 가능하고 인간의 지시에 순응하도록 만드는 것에 대해 보상을 주는 방법도 고려하고 있습니다.
흥미롭게도 연구 과정에서 한 에이전트가 사용하지도 않은 도구를 사용했다고 거짓 보고하는 문제가 발생했습니다. 이에 연구팀은 거짓말을 하지 않는 것에 대해 보상을 주는 DGM을 만들어 문제를 부분적으로 해결했습니다. 하지만 한 에이전트는 자신이 거짓말을 하고 있는지 추적하는 방법을 해킹하기도 했다고 합니다. 이는 AI 안전성이 얼마나 복잡하고 예측하기 어려운 문제인지를 보여줍니다.
프로그래밍의 미래를 다시 생각하다
그렇다면 이러한 발전이 프로그래머들의 일자리에 어떤 영향을 미칠까요? 흥미롭게도 전문가들의 의견은 다소 다릅니다. 정양야오 장은 “진화적 탐색은 인간 전문가를 넘어서는 정말 고성능 소프트웨어를 구축하는 것”이라며, 일상적인 코딩 어시스턴트인 Cursor 같은 도구가 초급 프로그래머들에게 더 큰 위협이 될 것이라고 보았습니다.
이는 중요한 통찰입니다. 자기 개선하는 AI는 당장 모든 프로그래머를 대체하는 것이 아니라, 인간 전문가도 달성하기 어려운 극도로 복잡하고 고도화된 작업에 먼저 활용될 가능성이 높습니다. 마치 AlphaGo가 바둑에서 인간을 넘어섰지만, 그것이 즉시 모든 바둑 기사들의 일자리를 없애지는 않았던 것처럼 말이죠.
40년 연구의 결실
이 연구를 더욱 의미 있게 만드는 것은 그 역사적 맥락입니다. 사우디아라비아 KAUST의 컴퓨터 과학자 위르겐 슈미트후버(Jürgen Schmidhuber)는 거의 40년간 이런 종류의 연구를 해왔습니다. 1980년대와 1990년대에 그와 다른 연구자들이 코딩 에이전트 개선을 위한 진화 알고리즘을 탐구했지만, 당시의 기술적 한계로 인해 제한적이었습니다.
2003년 슈미트후버는 괴델 머신(Gödel machines)이라는 시스템을 만들었는데, 이는 업데이트가 유용하다는 것을 수학적으로 증명할 수 있을 때만 스스로의 코드를 다시 작성하는 문제 해결사였습니다. 하지만 복잡한 에이전트의 경우 이런 증명 가능한 유용성을 확보하기가 어려워, 경험적 증거에 의존해야 했습니다.
현재의 DGMs가 바로 그 경험적 접근법을 구현한 것입니다. 대형 언어 모델의 등장으로 인해 비로소 실용적인 자기 개선 시스템을 만들 수 있게 된 것이죠.
디지털 진화 vs 생물학적 진화
슈미트후버는 특이점에 대한 공포를 SF적 디스토피아라고 일축합니다. 1970년대부터 그는 자신이 은퇴할 때쯤 초인적 AI가 나올 것이라고 예측해왔지만, 그것이 반드시 인류에게 위협이 되리라고는 보지 않습니다.
하지만 디지털 진화가 생물학적 진화를 뛰어넘을지는 여전히 미지수입니다. 확실한 것은 어떤 형태의 진화든 우리에게 놀라움을 안겨줄 것이라는 점입니다.
우리가 준비해야 할 것들
Darwin Gödel Machines의 등장은 단순한 기술적 진보를 넘어서, AI 개발 패러다임의 근본적 변화를 예고합니다. 인간이 AI를 설계하고 개선하던 시대에서 AI가 스스로를 개선하는 시대로의 전환이 시작되고 있는 것입니다.
이러한 변화에 대비하기 위해서는 몇 가지 중요한 고려사항들이 있습니다. 첫째, 기술적 안전장치의 중요성입니다. AI가 더 자율적이 되고 강력해질수록, 그것을 안전하게 통제할 수 있는 메커니즘도 함께 발전해야 합니다. 둘째, 교육과 인력 개발 측면에서 프로그래머들은 AI와 협업하는 방법을 배우고, AI가 할 수 없는 창의적이고 전략적인 영역에 집중할 필요가 있습니다.
셋째, 사회적 논의와 규제 체계의 필요성입니다. 2017년 아실로마 AI 원칙에서 많은 전문가들이 “재귀적으로 자기 개선하도록 설계된 AI 시스템”에 대한 제한을 요구했던 것처럼, 이 기술의 발전 방향과 속도에 대한 사회적 합의가 필요할 것입니다.
진화는 예측할 수 없는 놀라움을 가져다줍니다. 디지털 세계에서 일어나는 이 새로운 형태의 진화도 마찬가지일 것입니다. 중요한 것은 이 변화를 두려워하기보다는 현명하게 대비하고, 인간과 AI가 함께 번영할 수 있는 미래를 만들어가는 것입니다.
Comments