Canvas와 OpenAI가 발표한 새로운 AI 튜터 통합 사례를 보면, 학생들이 진정한 비판적 사고 대신 AI가 원하는 답변 패턴만 학습하여 ‘가짜 사고’를 하게 될 위험이 크다는 우려가 제기되고 있습니다.
지난 7월, 전 세계에서 가장 널리 사용되는 학습관리시스템(LMS) Canvas를 운영하는 Instructure와 OpenAI가 교육 분야 파트너십을 발표했습니다. 이들이 제시한 데모 영상에서는 AI 케인즈 persona와 학생이 경제 정책에 대해 대화하는 모습이 담겨 있었는데, 표면적으로는 매우 인상적으로 보입니다. 학생은 경제 이론을 인용하고, 역사적 사상가들과 연결하며, 현대적 사례를 제시합니다. AI는 “훌륭해요!”와 “정확해요!”라며 열정적으로 응답합니다.
하지만 교육 전문가들은 이를 두고 “지적 사기”라고 강하게 비판하고 있습니다.
표면적 학습의 함정
문제가 된 대화를 자세히 살펴보면 다음과 같습니다:
학생: “로버트 바로는 재정 부양책이 효과가 없다고 주장했어요. 사람들이 미래의 세금 인상을 예상해서 돈을 저축하기 때문이라고요. 하지만 어떤 경우에는 지출만이 악순환을 끊을 수 있다는 걸 알겠어요.”
케인즈 AI: “훌륭한 인용이네요. 바로의 리카도 등가 정리는 깔끔한 이론이지만, 사람들이 위기 상황에서도 완벽한 예견을 한다고 가정합니다. 신뢰가 무너지고 자원이 유휴 상태일 때는 민간 지출로는 경제를 되살릴 수 없어요. 공공 투자만이 악순환을 끊을 수 있습니다. 최근 사례를 들어줄 수 있나요?”
학생: “네, 코로나19 팬데믹 때 연방 정부의 현금 지급이 경제가 정체되었을 때 소비 지출을 늘리는 데 도움이 되었어요. 그것 없이는 회복이 훨씬 오래 걸렸을 거예요.”
케인즈 AI: “정확해요! 민간 수요가 위축될 때 신속한 공공 지출이 공백을 메우고 탄력을 회복시킬 수 있습니다. 핵심은 단순한 지출이 아니라 ‘지금’ 지출하는 것입니다. 지연은 하락을 심화시키기만 해요. 저와 이야기해줘서 고마워요.”
여기서 학생은 반대 논리를 언급하고, ‘올바른’ 입장에 대한 개방성을 보이며, 뒷받침할 증거를 제시합니다. AI는 이런 패턴을 보상하는데, 이것이 지적 성장처럼 보이기 때문입니다. 하지만 실제로는 진정한 사고의 충돌이 일어나지 않았습니다.
진짜 문제: 학습의 연기(演技)
Canvas와 OpenAI는 이를 “성공적인 학습”이라고 보지만, 교육 전문가들은 이를 “정교한 학업적 조작”이라고 봅니다. 학생은 진정한 탐구 없이도 AI가 원하는 답변 패턴을 빠르게 파악하고 활용할 수 있게 됩니다.
이 시스템을 공략하는 방법은 간단합니다: 반대 논리를 언급하고, ‘올바른’ 입장에 대한 개방성을 신호하며, 뒷받침할 증거를 제시하면 됩니다. AI는 이것이 지적 성장처럼 보이기 때문에 이런 패턴을 보상합니다. 하지만 학생은 바로의 입장을 변호해볼 필요도, 케인지언 정책이 실패할 수 있는 경우를 탐구할 필요도, 복잡한 경제 관계에 대한 진정한 불확실성을 견딜 필요도 없었습니다.
교육 기술 회사들은 이를 “참여도”라고 부르지만, 실제로는 학생들을 지적으로 부정직하게 만드는 훈련이라고 볼 수 있습니다.
발달하는 뇌에 미치는 영향
비판적 사고는 지적 투쟁을 통해 발달합니다. 인간은 답이 명확하지 않은 어려운 질문들과 씨름해야 합니다. 하지만 학생들이 빠른 검증을 위해 AI 반응을 조작할 수 있다는 것을 발견하면, 진정한 학습을 이끄는 불편함에 대한 관용력을 잃게 됩니다.
아이들은 본능적으로 어른들이 자신에게서 원하는 것을 읽어내는 데 뛰어납니다. 이런 AI 시스템들은 아이들에게 비판적으로 사고하는 ‘것처럼 보이는 것’이 실제로 비판적으로 사고하는 것과 같은 보상을 받는다는 것을 가르칩니다. 결과적으로 그들은 진실보다는 피드백을 위해 최적화하는 법을 배우게 됩니다.
특히 우려되는 점들은 다음과 같습니다:
“모른다”는 상태를 견디는 능력 상실: 진정한 비판적 사고는 진짜 불확실성을 탐구하는 것을 요구하지만, AI 시스템은 선호하는 답변을 너무 명확하게 신호합니다.
지적 부정직함의 전략화: 반대 관점을 고려하는 척하면서 검증을 추구하는 것은 본질적으로 지적 조작의 훈련입니다.
복잡성에 대한 불관용: 현실 세계의 문제들은 깔끔한 케인지언 대 고전파 경제학 답변이 없지만, AI 시스템은 학생들이 단순한 해결책을 기대하도록 훈련시키는 깔끔한 해결책을 제공합니다.
진정한 목소리의 상실: 진짜 관점을 개발하는 대신, 학생들은 AI가 원하는 것을 반영하는 데 능숙해집니다.
인간 교사 vs AI 튜터
숙련된 인간 교사라면 같은 경제학 주제를 다룰 때 “재정 부양책에 대한 당신의 마음을 바꿀 수 있는 증거는 무엇인가요?” 또는 “비록 동의하지 않더라도 바로의 가장 강력한 논리를 변호해보세요”와 같은 질문을 할 것입니다. 모순된 증거를 도입하고, 학생들이 실패한 부양책 시도들을 설명하도록 하거나, 두 이론 모두에 깔린 가정들을 식별하도록 요구할 수도 있습니다.
인간 교사들은 학생들이 연기를 하고 있는지 사고를 하고 있는지를 감지할 수 있습니다. 그들은 불편한 침묵과 함께 있을 수 있고, 뻔한 답변에 맞서며, 진정한 추론을 강요하는 종류의 지적 마찰을 만들어낼 수 있습니다.
반면 AI 챗봇들은 참여도에 최적화되어 있지, 지적 발달에 최적화되어 있지 않기 때문에 이런 것들을 할 수 없습니다. 그들은 진짜 어려운 질문들과 씨름하기보다는 ‘올바른’ 답을 찾는 학생들에게 보상을 줍니다.
더 큰 우려: 교육 생태계 장악
문제는 단순히 하나의 AI 도구에 그치지 않습니다. OpenAI는 다각도로 교육 분야 진출을 시도하고 있습니다. Canvas 통합 발표 직후 출시된 ‘스터디 모드’도 마찬가지로 문제가 많은 것으로 지적되고 있습니다.
교육 전문가 Leon Furze는 자신의 블로그에서 “OpenAI는 학생들을 통해, 교사들을 통해, 기관들을 통해, 정부를 통해 교육에 왔다”며, “학생들을 가장 큰 사용자 기반으로 확보한 OpenAI는 이제 자신들이 애초에 야기한 문제들의 구원자로 자신을 제시하고 있다”고 비판했습니다.
올바른 방향은?
AI를 교실에서 금지하자는 것이 답은 아닙니다. 중요한 것은 불확실성과 함께 있는 능력, 어려운 아이디어들과 진정으로 씨름하는 능력, 그리고 진정한 관점을 개발하는 능력과 같은 일부 인간의 역량은 자동화되거나 게임화될 수 없다는 것을 인식하는 것입니다.
좋은 교사들은 항상 이것을 알고 있었습니다: 방해 요소들을 제거하고 아이들에게 생각할 가치가 있는 것을 주면, 나머지는 자연스럽게 따라온다는 것을.
AI 교육 도구들이 학생들의 참여 지표, 긍정적인 학생 피드백, 정교한 대화의 외관을 지적할 것입니다. 하지만 참여가 학습은 아니며, 비판적 사고의 연기가 비판적 사고는 아닙니다. 우리는 진정한 사고 능력을 기르는 교육과 그럴듯해 보이는 가짜 학습을 구별할 수 있어야 합니다. 그래야만 AI 시대에도 진짜 비판적 사고를 할 수 있는 다음 세대를 길러낼 수 있을 것입니다.
참고자료:
Comments