강력한 LLM(대규모 언어 모델)이 누구나 손쉽게 쓸 수 있게 되면서, 스팸과 봇 콘텐츠를 뿌리는 일도 그만큼 쉬워졌습니다. 그런데 정작 이 스팸을 걸러내는 데도 같은 기술이 동원되고 있습니다.

레딧이 최근 자사 플랫폼의 스팸·봇 대응 현황을 정리한 공식 발표를 냈습니다. AI가 만들기 쉽게 만든 문제를, AI로 막아선다는 다소 아이러니한 내용입니다.

출처: How We’re Keeping Reddit Real and Safe in the AI Era – Reddit

21년 묵은 싸움에 새 무기가 들어왔다

레딧은 봇과의 싸움이 21년째라고 밝혔습니다. AI가 만든 슬롭(저질 콘텐츠)이 나오기 전에도 그냥 슬롭은 늘 있었다는 거죠. 다만 최근 들어 LLM을 활용한 탐지 시스템으로 방어 수준을 한 단계 끌어올렸다고 설명합니다.

핵심은 계정이 만들어지는 순간부터 신호를 살핀다는 점입니다. 의심스러운 계정은 게시물을 올리기도 전에 걸러냅니다. 이미 활동 중인 계정 중에서도, 과거 시스템으로는 놓쳤던 미세하고 조직적인 가짜 활동 패턴이나 인위적인 화제몰이를 LLM으로 잡아낸다고 합니다.

수치로 드러난 변화

레딧이 공개한 수치는 구체적입니다. 하루에 스팸 조회 2,300만 건을 사용자에게 닿기 전에 차단하고, 새로 생기는 스팸성 게시물·댓글도 하루 약 2만 5천 건씩 잡아냅니다. 올해 1분기(1~3월) 사용자가 실제로 스팸에 노출되는 비율은 직전 3개월 대비 약 20% 줄었고, 스팸 계정 자체에 노출되는 비율도 추가로 10~15% 감소했습니다. 가짜 투표는 최근 석 달간 하루 평균 200만 건 가까이 회수됐습니다.

혐오·폭력성 콘텐츠 대응 속도도 눈에 띄게 빨라졌습니다. 탐지부터 조치까지 걸리던 시간이 몇 시간 단위에서 5초 미만으로 줄었고, 관련 조치 건수는 200% 넘게 늘었죠. 동시에 정상적인 콘텐츠를 잘못 지우는 오탐률은 40% 넘게 낮아졌다고 합니다. 속도와 정확도를 동시에 잡았다는 주장입니다.

AI로 AI를 막아도, 사람은 빠지지 않는다

유튜브나 메타, 인스타그램 같은 다른 플랫폼들은 AI 생성 콘텐츠 자체는 허용하되 표시를 요구하는 방식을 씁니다. 틱톡은 아예 사용자가 AI 콘텐츠 노출 비중을 직접 조절하게 해두었습니다. 레딧의 접근은 이와 결이 조금 다릅니다. 콘텐츠 자체보다 가짜 계정과 조작된 활동 패턴을 잡는 쪽에 집중합니다.

다만 AI 생성 콘텐츠를 더 빨리 탐지할 수 있게 된다는 건, 혐오 발언 같은 위반 콘텐츠도 더 빨리 걸러낼 수 있다는 뜻이기도 합니다. 그런데도 플랫폼 전문가들은 AI 기반 콘텐츠 모더레이션이 사람의 검수와 함께 갈 때 가장 효과적이라고 꾸준히 지적해왔습니다. 실제로 레딧도 자동화 시스템 하나에만 의존하지 않고, 사이트 전체 정책을 다루는 내부 안전팀과 커뮤니티별 자원봉사 모더레이터, 그리고 사용자의 추천·비추천까지 여러 층을 겹쳐서 운영하고 있다고 밝혔습니다.