지난해 Facebook과 Instagram에서 사기 광고 1억 5,900만 건이 삭제됐습니다. 그중 92%는 사용자 신고가 들어오기 전에 이미 차단됐습니다. 사람이 발견하기도 전에 AI가 먼저 잡아낸 셈입니다. Meta가 이 탐지 체계의 구체적인 작동 방식과 새로 추가된 사용자 도구를 공개했습니다.
Meta가 Facebook, WhatsApp, Messenger 전반에 걸친 AI 기반 사기 탐지 시스템과 신규 사용자 보호 도구를 발표했습니다. 사기 수법이 갈수록 정교해지는 상황에서, 기존 규칙 기반 탐지로 잡기 어려운 사칭·유사 도메인·로맨스 스캠까지 다중 신호를 종합 분석하는 방식으로 대응 범위를 넓혔다는 게 핵심입니다.
출처: Fighting Scammers and Protecting People with New Technology and Partnerships – Meta Newsroom
텍스트·이미지·맥락을 동시에 읽는 AI 탐지
기존 사기 탐지는 특정 키워드나 URL 패턴을 필터링하는 방식에 의존했습니다. 이런 방식은 변형된 철자나 우회 링크를 쓰는 사기꾼에게 금방 무력화됩니다.
Meta가 구축한 새 AI 시스템은 세 가지 신호를 동시에 분석합니다. 텍스트(게시글·댓글 문구), 이미지(프로필 사진·썸네일), 그리고 맥락(해당 계정이 어떤 공인과 연관됐는지, 팬 반응이 자연스러운지 등)입니다. 예를 들어 유명인 사칭 계정을 탐지할 때는 팔로워 수나 게시글 패턴만이 아니라, 바이오 문구의 미묘한 왜곡이나 공인과의 부자연스러운 연결 고리까지 종합해 판단합니다. 도메인 위장 광고 역시 마찬가지로, 정상 사이트를 흉내 낸 링크를 사전에 찾아내 수천 개 브랜드를 피해로부터 보호하고 있습니다.
사용자에게 직접 닿는 경보 도구 3가지
AI 탐지가 플랫폼 내부에서 작동한다면, 이번에 공개된 세 가지 도구는 사용자가 직접 마주치는 접점에서 작동합니다.
WhatsApp 기기 연결 경보: 사기꾼들은 종종 피해자가 자신도 모르게 낯선 기기를 WhatsApp 계정에 연결하도록 유도합니다. QR 코드 스캔이나 인증 코드 입력을 요구하는 방식입니다. 이제 WhatsApp은 연결 요청의 출처와 행동 패턴을 분석해, 의심스러운 요청일 경우 연결 전에 경고를 표시합니다.
Facebook 의심 친구 요청 알림: 공통 친구가 거의 없거나 프로필에 명시된 거주 국가가 다를 경우, 친구 요청을 주고받을 때 자동으로 경고 메시지가 뜹니다. 차단 또는 거부 여부를 결정하기 전에 한 번 더 생각할 기회를 줍니다.
Messenger 사기 감지 확대: 새로운 연락처와의 대화에서 수상한 취업 제안 등 스캠 패턴이 감지되면, 최근 대화 내용을 AI 검토에 공유할지 묻는 알림이 뜹니다. 잠재적 사기로 판정되면 관련 정보와 함께 차단·신고 옵션이 제안됩니다. 이 기능은 이번 달부터 더 많은 국가로 확대됩니다.
광고주 인증과 글로벌 법집행 협력
플랫폼 내부에서만 싸우는 게 아닙니다. Meta는 2026년 말까지 광고 매출의 90%를 인증된 광고주로부터 발생시키겠다는 목표를 세웠습니다. 현재 70% 수준에서 높이는 것으로, 광고를 통한 사기 경로 자체를 좁히겠다는 취지입니다.
법집행 협력도 구체적인 성과를 내고 있습니다. FBI, 미국 법무부 산하 스캠센터 대응팀, 태국 경찰과의 합동 작전에서 동남아시아 사기 조직과 연관된 계정 15만 개를 비활성화하고 21명이 체포됐습니다. 나이지리아에서는 영국 국가범죄청, 나이지리아 경찰과 협력해 영국·미국 시민을 표적으로 삼은 암호화폐 사기 조직 7명을 검거했습니다.
사기와의 싸움이 AI 탐지 경쟁이 된 이유
이번 발표에서 눈여겨볼 부분은 규모보다 방식의 전환입니다. 사기 수법은 이미 AI를 활용해 개인 맞춤형 미끼를 만들고, 탐지를 피해 계속 변형되고 있습니다. Meta의 대응도 규칙 기반에서 다중 신호 AI 분석으로 옮겨간 것은 이 흐름의 반영입니다.
Meta는 이번 보고서에서 국가별 집행 수치, 로맨스 스캠 전담 프로그램 FIRE의 세부 운영 방식, 그리고 글로벌 인식 제고 캠페인에 대해서도 더 자세히 다루고 있습니다.
참고자료:
답글 남기기