최신 AI 모델의 추론 능력이 진짜인지 가짜인지 묻는 연구들이 쏟아지고 있지만, 정작 인간의 추론 과정과 비교하거나 추론의 정의를 명확히 하지 않아 편향된 결론을 내리고 있습니다.
ChatGPT의 o1, Claude 3.5 Sonnet, DeepSeek-R1 등 최신 AI 모델들은 모두 ‘추론 능력’을 내세우고 있습니다. 하지만 정말로 AI가 추론하고 있는 걸까요? 최근 몇 개월 사이 이 질문에 답하려는 연구들이 잇따라 발표되고 있습니다.
이번 글에서는 Sean Goedecke의 블로그 포스트를 바탕으로, AI 추론 능력을 평가하는 최근 연구들의 한계점을 살펴보고, 보다 균형 잡힌 관점을 제시해보겠습니다.
논란의 중심: 체인 오브 쏘트는 환상인가?
애리조나 주립대 연구의 주장
애리조나 주립대학교 연구팀이 발표한 “Is Chain-of-Thought Reasoning of LLMs a Mirage?”라는 논문이 큰 주목을 받고 있습니다. 이 연구는 다음과 같은 결론을 내렸습니다:
“체인 오브 쏘트 추론은 실제 논리적 추론이 아니라, 훈련 데이터에서 암기한 패턴을 재현하는 것에 불과하다”
연구팀은 60만 개 파라미터의 작은 트랜스포머 모델을 만들어 간단한 알파벳 변환 작업을 학습시켰습니다. 예를 들어 “A B C D [M1]”라는 입력에 “B C D E”로 답하도록(각 글자를 하나씩 앞으로 이동) 훈련했죠.
결과는 어땠을까요? 모델은 훈련 데이터에 없던 새로운 조합이나 약간만 복잡해진 문제에서 크게 실패했습니다. 연구팀은 이를 근거로 AI의 추론이 환상에 불과하다고 주장했습니다.
애플의 “생각의 환상” 연구
비슷한 시기 애플에서도 “The Illusion of Thinking”이라는 논문을 발표했습니다. 이 연구는 하노이 탑 퍼즐을 이용해 추론 모델들을 테스트했죠.
결과는 흥미로웠습니다:
- 간단한 문제: 추론 모델이 오히려 더 나쁜 성능 (과도한 생각으로 실수)
- 중간 난이도: 추론 모델이 훨씬 우수한 성능
- 매우 복잡한 문제: 추론 모델도 포기하고 성능 급락
이런 연구들의 세 가지 치명적 한계
1. 추론 vs 계산의 혼동
첫 번째 문제는 진짜 추론과 단순 계산을 구분하지 못한다는 점입니다.
“A B C D [M1] → B C D E” 같은 작업은 추론이 아니라 계산입니다. 추론에는 “잠깐, 이 방법이 틀렸나? 다른 방법을 시도해보자”와 같은 방향 전환이 필요하죠.
실제 추론 모델들을 보면 “잠깐, 다시 생각해보자” 같은 표현이 자주 나타납니다. 최근 연구에 따르면 AI에게 “Wait”라는 단어를 강제로 추가해주면 모델이 성급하게 결론을 내리지 않고 더 신중하게 검토해서 정답률이 높아진다고 합니다. 이는 진짜 추론이 방향을 바꾸고 재검토하는 과정을 포함한다는 뜻입니다. 하지만 위 연구들의 실험 설계는 이런 방향 전환이 구조적으로 불가능했습니다.
2. 모델 크기의 현실 무시
두 번째 문제는 모델이 너무 작다는 점입니다.
추론 능력은 emergent capability(창발적 능력)입니다. 60만 개 파라미터 모델로 추론을 테스트하는 것은 자전거로 고속도로를 달리며 “자동차가 별로 빠르지 않다”고 결론내리는 것과 같습니다.
GPT-4o1이나 Claude 3.5 Sonnet 같은 대형 모델들이 보여주는 추론 능력을 60만 파라미터 모델의 결과로 평가하는 것은 무리가 있습니다.
3. 인간 추론과의 비교 부재
가장 큰 문제는 인간의 추론 과정과 비교하지 않는다는 점입니다.
연구들이 AI에게 씌우는 비판들을 살펴보면:
- “학습된 패턴에 의존한다”
- “관련 없는 세부사항을 포함시킨다”
- “쉬운 문제는 과도하게 생각하고 어려운 문제는 포기한다”
하지만 이 모든 특징은 인간 추론에서도 나타납니다! 인간도 자신의 전문 분야를 벗어나면 추론 능력이 급격히 떨어지죠. 의사가 법률 문제에서 엉뚱한 추론을 하는 것은 흔한 일입니다.
균형 잡힌 관점: AI 추론 능력을 제대로 평가하려면
현실적인 평가 기준이 필요합니다
AI 추론 능력을 제대로 평가하려면 먼저 인간과의 공정한 비교가 필요합니다. 같은 문제를 인간에게도 주고 비교해야 하죠. 인간도 실패하는 영역에서 AI가 실패한다고 해서 추론 능력이 없다고 단정하면 안 됩니다.
테스트 환경도 중요합니다. 단순 계산이 아닌 실제 추론이 필요한 문제를 사용해야 합니다. 충분히 큰 모델로 테스트하고, 언어를 활용한 복잡한 추론 과정을 허용해야 하죠.
무엇보다 ‘진짜 추론’이 무엇인지 철학적으로 명확히 정의하고, 이 기준을 일관되게 적용해야 합니다.
실용적 시사점
현업에서 AI를 활용할 때는 AI 추론의 강점을 제대로 파악해야 합니다. 복잡한 문제를 단계적으로 분해하고, 다양한 접근법을 시도해보며, 중간 난이도 문제에서 뛰어난 성능을 보이는 것이 AI의 장점입니다.
동시에 한계도 인정해야 합니다. 완전히 새로운 영역에서는 성능이 저하될 수 있고, 매우 복잡한 문제는 인간과 협업하는 것이 좋습니다. 단순 반복 계산보다는 창의적 추론 영역에 활용할 때 더 큰 효과를 볼 수 있습니다.
추론 논쟁에서 놓치고 있는 핵심
AI가 ‘진짜’ 추론을 하는지 묻는 것보다 더 중요한 질문이 있습니다. “AI의 추론 능력을 어떻게 효과적으로 활용할 것인가?”
완벽한 추론 능력을 가진 ‘플라톤의 이상적 추론자’는 존재하지 않습니다. 인간도 편향과 한계를 가지고 있죠. AI 역시 마찬가지입니다.
중요한 것은 AI의 추론 방식을 이해하고, 인간의 추론과 상호 보완적으로 활용하는 것입니다. 현재의 AI 추론 모델들은 분명 한계가 있지만, 적절히 활용하면 인간의 사고를 확장하는 강력한 도구가 될 수 있습니다.
AI 추론 능력 논쟁은 계속될 것입니다. 하지만 이런 논쟁에 매몰되기보다는, 현실적이고 균형 잡힌 관점에서 AI의 가능성과 한계를 모두 인정하며 발전시켜 나가는 것이 더 건설적일 것입니다.
참고자료:
Comments