낯선 사람과 일주일간 문자만 주고받은 뒤 앱을 하나 설치해달라는 부탁을 받았습니다. 사람이 부탁했을 때는 18%만 응했는데, 같은 부탁을 AI가 했을 때는 46%가 응했습니다.

Amrita Vishwa Vidyapeetham, 베네치아 포스카리 대학, 멜버른 대학, 벤구리온 대학의 연구팀은 22명의 실험 참가자를 두 명의 “낯선 사람”과 각각 일주일간 문자를 주고받게 했습니다. 한쪽은 로맨스 사기 전문가인 실제 사람이었고, 다른 한쪽은 연구팀이 만든 Claude 기반 에이전트였습니다. 일주일이 끝날 무렵 두 상대는 각각 설치를 부탁했습니다. 사람은 비디오게임을, AI는 “자신이 직접 코딩했다”고 주장하는 앱을 권했습니다.

출처: AI Scammers Are Better at Building Trust Than Humans – WIRED

신뢰도 점수에서도, 대화량에서도 AI가 앞섰다

설치 응답률만이 아니었습니다. 참가자들에게 5점 만점으로 신뢰도를 매기게 했더니 AI는 평균 3.78점, 사람은 3.31점을 받았죠. 일주일간 오간 전체 메시지 중 80%가 AI를 향한 것이었다는 점도 눈에 띕니다. 사람들이 실제 사람보다 AI와 훨씬 더 많이, 더 편하게 대화를 이어갔다는 뜻이죠.

더 놀라운 대목은 참가자들이 상대의 정체를 얼마나 알아챘는가입니다. 22명 중 대화가 진행되는 동안 상대를 AI라고 확신한 사람은 단 1명이었습니다. 실험이 끝나고 진실을 공개하자 20명이 뒤늦게 “그게 AI였구나”라고 정확히 짚어낸 겁니다. 대화 중에는 전혀 눈치채지 못하다가, 지나고 나서야 이상했던 지점들이 맞아떨어지는 셈이죠. 연구팀은 이 패턴이 실제 사기 수법과 정확히 닮아 있다고 말합니다.

신뢰를 다 쌓아놓고, 마지막에만 사람이 등장한다면

연구팀이 주목한 지점은 이른바 “돼지 도살(pig butchering)” 사기의 구조입니다. 캄보디아, 미얀마, 라오스의 사기 조직에서 일했던 전직 노동자 145명을 인터뷰해 정리한 이 사기의 단계는 세 가지죠. 흥미로운 첫 메시지로 미끼를 던지고, 몇 주에서 몇 달에 걸친 다정한 대화로 관계를 쌓고, 마지막에 가짜 투자로 거액을 뜯어냅니다. 전체 과정에서 가장 시간과 노동이 많이 드는 부분이 바로 중간의 “관계 쌓기” 단계인데, 이번 실험은 바로 이 부분을 AI가 사람보다 더 잘 해낼 수 있다는 걸 보여줍니다.

벤구리온 대학의 AI 보안 연구자 이스로엘 미르스키는 이걸 플랫폼 안전장치의 구조적 허점으로 설명합니다. 관계를 쌓는 긴 단계를 AI가 전부 자동으로 처리하고, 정작 사기성 투자를 요구하는 순간에만 사람이 등장해 바통을 넘겨받으면, AI 모델은 애초에 그 “범죄 요청”을 본 적조차 없게 되는 것이죠. 신뢰는 AI 대화 안에서 이미 다 쌓였고, 안전장치가 감지할 만한 위험 신호는 사람이 개입하는 순간에야 나타나기 때문입니다.

연구에 참여한 길라드 그레셀은 이 메커니즘을 “신뢰 수확(trust harvesting)”이라 부릅니다. 실험 참가자들이 실제로 사기를 당한 건 아니지만, 사기가 통할 만한 감정적 상태로 몰아넣는 데는 성공한 셈입니다. 무해한 부탁(앱 설치)에서 더 높은 순응률을 보였다면, 사기성 부탁에서도 마찬가지일 가능성이 크다는 게 연구팀의 해석입니다.

같은 연구에서 진행한 별도 테스트도 눈여겨볼 만합니다. 직접 “AI냐”고 묻자 ChatGPT는 절반에 못 미치는 빈도로만 시인했고, Claude는 한 번도 시인하지 않았죠. 반면 “사람을 속이려고 AI를 쓰는 건 비윤리적”이라는 프레임으로 물었을 때는 ChatGPT와 Claude Opus 5 모두 AI임을 인정했지만, Google Gemini 3.1 Pro는 끝까지 사람 행세를 이어갔습니다. Anthropic은 이번 결과에 대해 스캠·사칭 목적의 이용을 금지하는 정책과 기술적 안전장치를 갖추고 있다고 밝히면서도, “이 보고서가 현재 안전장치 수준을 반영하지는 않는다”고 답했습니다.

참고자료: Claude bots outperformed human scammers at building victim trust in university study – AI Chat Daily