“모른다”고 답한 사람이 44%에서 3%로 줄었습니다. 응답자들이 갑자기 똑똑해진 게 아닙니다. 곁에 AI가 있었을 뿐입니다.

밀라노 비코카 대학의 발레리오 카프라로 교수를 비롯한 프랑스·이탈리아 연구진이 실험 하나를 진행했습니다. 사람들에게 AI 조언에 접근할 수 있게 해주면, 정말 모르는 문제 앞에서도 “모른다”고 말하는 능력이 사라지는지를 봤습니다. 결과는 예상보다 훨씬 뚜렷했습니다. 정확도는 떨어지고 확신은 오히려 올라갔습니다.

출처: Using AI makes people less likely to admit they don’t know something – The Register

일부러 AI가 틀리는 질문을 골랐다

연구팀은 질문을 아무렇게나 고르지 않았습니다. “영화 ‘슈팅 라이크 베컴’에서 팀 유니폼 색깔은 무엇인가” 같은, 영화 속 시각적 디테일을 묻는 문제를 준비했습니다. 이런 정보는 텍스트 기반 학습 데이터에 잘 남지 않습니다. 그래서 AI가 자주 틀립니다.

실험에 쓴 모델은 중국 AI 기업 StepFun이 공개한 오픈소스 모델, Step 3.5 Flash입니다. 이 문제들에서 유독 자주 틀리는 모델을 일부러 골랐습니다. 이유가 있죠. 참가자가 AI 말을 따라서 정답률이 떨어졌다면, “믿을 만한 도구에 합리적으로 위임했다”는 반박이 나올 수 있습니다. 연구팀은 그 반박 자체를 차단하고 싶었던 겁니다. GPT-5.5, Claude Sonnet 4.6, Gemini 3.5 Flash 같은 최신 모델도 함께 테스트했는데, 이들도 특정 디테일(예: 영화 속 등장인물이 모는 차종)은 틀렸지만 다른 항목은 곧잘 맞혔습니다.

참가자는 두 그룹으로 나뉘었습니다. 한쪽은 AI 도움 없이 답했고, 다른 쪽은 AI에게 조언을 구할 수 있었습니다.

세 수치가 동시에 무너졌다

AI 없이 답한 그룹에서는 44%가 “모른다”며 판단을 보류했습니다. 이건 정상적인 반응입니다. 실제로 모르는 문제니까요. 그런데 AI 조언을 받을 수 있었던 그룹에서는 이 비율이 3%로 주저앉았습니다.

더 눈에 띄는 건 정확도입니다. AI 없이 답한 그룹의 정답률은 27%, AI 조언을 받은 그룹은 9%. 원래 맞힐 수 있었던 사람 중 일부가 AI에게 물어본 뒤 오답으로 돌아섰다는 뜻이죠. 자기 판단보다 AI의 답을 더 신뢰한 셈입니다.

확신도는 반대 방향으로 움직였습니다. AI 없이 답한 그룹의 확신도는 30%였는데, AI 조언을 받은 그룹은 76%로 뛰었습니다. 카프라로 교수는 이렇게 정리했습니다. “사람들은 훨씬 나빠졌습니다. 정확도는 3분의 1 수준으로 떨어졌는데, 확신은 두 배가 됐습니다.”

돈을 걸어도 크게 달라지지 않았다

연구팀은 여기서 한 걸음 더 나갔습니다. 정답을 맞히면 금전 보상을 주는 조건을 추가했습니다. 대충 답하는 게 아니라 진지하게 판단하도록 유인을 준 셈입니다.

결과는 소폭 개선에 그쳤습니다. “모른다”는 응답은 3%에서 8%로, 정확도는 9%에서 16%로 올랐죠. 하지만 여전히 AI 없이 답했을 때의 기준선(44%, 27%)에는 한참 못 미쳤습니다. 돈이 걸려도 사람들은 여전히 AI 쪽으로 기울었다는 것. 단순히 게을러서 AI에게 미룬 게 아니라, 판단을 보류하는 습관 자체가 약해졌다고 볼 수 있는 대목입니다.

자기 무지를 인정하는 능력이 걸려 있다

카프라로 교수는 “모른다”고 말할 수 있는 능력이 인간에게 중요한 이유를 이렇게 설명했습니다. 자기 지식의 한계를 인식하는 능력이라는 겁니다. 그런데 지금은 거의 모든 질문에 손쉬운 답이 주어지다 보니, 이 능력이 방해받는 건 아닌지 연구팀은 궁금했다고 말합니다.

올해 초 와튼 스쿨 연구진은 이와 비슷한 현상에 “인지적 항복(cognitive surrender)”이라는 이름을 붙인 바 있습니다. 사람들이 틀린 AI 답변을 80%의 확률로 그대로 받아들이면서도, AI 없이 작업한 사람보다 더 높은 확신을 보고했다는 연구였습니다. 이번 연구는 여기에 더 날카로운 데이터를 보탰습니다. 사람들이 틀린 AI 답을 신뢰하는 것만이 문제가 아닙니다. AI가 곁에 있다는 사실 자체가, 자신이 무엇을 모르는지 인식하는 습관을 억누른다는 겁니다.

참고자료: AI advice made people three times less accurate but twice as confident, researchers found – TheNextWeb