비행기에서 아이 옆에 앉고 싶다는 부모, 결혼식에 흰 드레스를 입겠다는 시어머니. Reddit의 r/AmItheAsshole 게시판에서 매일 보는 이런 분노 유발 스토리들, 혹시 진짜일까요? 모더레이터들은 이제 이런 게시물의 절반이 AI가 만든 가짜일 수 있다고 추정합니다.
WIRED와 The Verge가 최근 보도한 내용에 따르면, Reddit과 TikTok 같은 플랫폼이 AI 생성 콘텐츠(일명 ‘AI 슬롭’)에 잠식되고 있습니다. “인터넷에 남은 가장 인간적인 공간”으로 불리던 Reddit조차 예외가 아닙니다. 2,400만 멤버를 보유한 r/AmItheAsshole의 모더레이터 Cassie는 전체 Reddit 콘텐츠의 최대 50%가 AI로 생성되거나 편집됐을 수 있다고 추정합니다.
출처:
- AI Slop Is Ruining Reddit for Everyone – WIRED
- AI ‘creators’ might just crash the influencer economy – The Verge
Reddit: 가짜와 진짜를 구분할 수 없는 커뮤니티
문제는 단순한 스팸이 아닙니다. AI 생성 게시물은 점점 더 정교해지고 있고, 확실하게 탐지할 도구도 없습니다. 18년 경력의 r/AITAH 모더레이터는 “제목을 본문에 그대로 반복한다거나 em 대시를 쓴다거나 하는 징후가 있지만, 이것도 100% 확실하지 않다”고 말합니다. Cassie는 댓글 기록에선 철자가 엉망인데 게시물만 완벽한 문법으로 쓴 경우를 의심합니다. 하지만 이런 ‘징후’들이 AI를 안 쓴 게시물에도 나타날 수 있죠. 코넬 공대의 Travis Lloyd 박사과정 연구원은 “지금은 100% 확실하게 탐지할 신뢰할 만한 도구가 없다”며 결국 직관에 의존할 수밖에 없다고 말합니다.
더 심각한 건 AI 슬롭의 목적입니다. 일부는 트랜스젠더나 소수자를 겨냥한 분노 유발용입니다. “부모가 내가 chosen name(새로 정한 이름)을 안 써줘서 화가 났다”는 식의 게시물로 트랜스젠더를 과민하고 공격적인 존재로 묘사하거나, 반대로 “시스젠더인데 성별을 잘못 추정당해 화를 냈다”며 성소수자를 조롱하는 내용입니다. Cassie는 프라이드 먼스 기간 동안 이런 반트랜스 콘텐츠가 쏟아진 것을 목격했습니다.
또 다른 목적은 수익화입니다. Reddit은 카르마(업보트)로 돈을 벌 수 있는 ‘기여자 프로그램’을 운영하는데, AI로 분노 유발 게시물을 만들어 카르마를 쌓은 뒤 계정을 팔거나 성인 콘텐츠 홍보에 활용하는 경우가 많습니다. r/Ukraine의 전직 모더레이터 Tom은 “내 계정을 사겠다는 사람들이 계속 연락한다”며 “한 달에 거의 노력 없이 100달러를 벌 수 있다면 할 사람들이 있다”고 말했습니다.
가장 큰 피해는 신뢰의 붕괴입니다. 26세 사용자 Ally는 “더 이상 내가 보는 게 진짜인지 모르겠어서 Reddit을 예전만큼 안 쓰게 됐다”고 말합니다. r/AITAH 모더레이터는 “사람들이 엄청난 노력을 들여 도움을 주려다가 ‘하하, 속았네요, 다 거짓말이에요’라는 답을 받는 걸 봤다”며 “AI가 모두를 지치게 만든다”고 토로했습니다.
TikTok: AI 탐정이 폭로한 크리에이터 경제의 붕괴
영상 플랫폼도 마찬가지입니다. Jeremy Carrasco는 올해 6월 TikTok과 Instagram에 첫 영상을 올린 뒤 6개월 만에 각 플랫폼에서 30만 팔로워를 모았습니다. 그의 콘텐츠는 AI 생성 영상을 식별하는 법을 알려주는 ‘AI 리터러시’입니다. 처음엔 “AI를 윤리적으로 쓰는 법”을 가르치려 했지만, 곧 현실을 깨달았습니다.
Jeremy가 발견한 AI 영상의 특징은 이렇습니다: 뿌연 피부 텍스처, 흔들리는 눈동자, 배경에서 물체가 나타났다 사라지는 현상, 표지판의 횡설수설한 글자, 너무 완벽한 치아. 문제는 이런 영상들이 단순한 장난이 아니라는 겁니다.
가장 흔한 건 조회수 농장입니다. Sora 2가 무료로 공개되면서 누구나 7초짜리 AI 영상을 만들 수 있게 됐습니다. 이걸 1분 분량으로 편집해서 500만 조회수를 받으면 약 1,000달러를 벌 수 있죠. 개발도상국 사람들에겐 상당한 수입원입니다.
더 악질적인 경우도 있습니다. 150만 팔로워를 보유한 ‘양문(Yang Mun)’이라는 가짜 한의사 계정은 서양인을 타깃으로 건강 조언을 하다가 11달러짜리 전자책을 팔아 사기를 칩니다. Jeremy에 따르면 책을 구매한 사람이 접근조차 못 했다고 합니다.
가장 심각한 건 신원 도용입니다. 여성 크리에이터들의 영상을 가져와 얼굴을 AI로 교체한 뒤 OnlyFans에 올리는 일이 벌어지고 있습니다. ‘Maddie Quinn’ 같은 계정이 대표적입니다.
Jeremy는 이제 “크리에이터 공간에서 생성형 AI의 윤리적 사용이 가능한가?”라는 질문에 “일반적으로 불가능하다”고 답합니다. 라이온스게이트가 자사 라이브러리만으로 AI 모델을 학습시키려 했지만 데이터가 부족해 실패한 사례를 보면, “현재 방식으로 AI 영상 생성 도구를 만들려면 사람들의 데이터를 훔쳐야 한다. 이건 근본적으로 결함이 있는 구조”라는 게 그의 결론입니다.
플랫폼들은 왜 방치하는가
아이러니하게도 플랫폼들은 AI 슬롭을 막기는커녕 자체 AI 도구를 만들고 있습니다. Meta, Amazon, DirecTV 모두 AI 광고 생성 서비스를 출시했습니다. 이는 크리에이터들의 주 수입원인 협찬 광고 시장을 붕괴시킵니다. Jeremy는 “크리에이터들은 기본적으로 광고 에이전시를 운영하는 건데, 플랫폼이 광고주에게 직접 AI 광고 서비스를 팔기 시작하면 크리에이터 경제 전체가 망한다”고 경고합니다.
Instagram, Facebook, TikTok, YouTube는 AI 콘텐츠 표시 규칙조차 제대로 시행하지 않고 있습니다. Reddit은 공식 입장에서 “Reddit은 인터넷에서 가장 인간적인 공간이며 그렇게 유지하고 싶다”고 밝혔지만, 2025년 상반기에만 4천만 건 이상의 스팸과 조작 콘텐츠를 삭제해야 했습니다.
r/AITAH 모더레이터의 말이 핵심을 찌릅니다: “Reddit이 뭔가 조치를 취하지 않으면 뱀이 자기 꼬리를 삼키는 꼴이 될 것입니다. AI가 AI를 먹여 살리는 지경에 이르렀어요.”
실제로 Reddit 데이터로 학습된 AI가 다시 Reddit에 콘텐츠를 생성하는 피드백 루프가 만들어졌습니다. Google의 AI 요약이 “피자에 치즈가 안 붙으면 풀을 바르라”는 Reddit 농담을 진지하게 인용한 사건이 대표적입니다. 코넬 공대의 Lloyd는 이렇게 정리합니다: “AI 콘텐츠를 만드는 건 엄청 쉽지만 평가하는 건 훨씬 더 많은 노력이 듭니다. Reddit 모더레이터들이 겪는 일은 교사들, 그리고 모든 사람들이 지금 겪고 있는 일입니다.”
AI 슬롭은 단순히 플랫폼 하나를 망가뜨리는 게 아닙니다. 온라인에서 진짜 인간과 대화하고, 진짜 경험을 나누고, 진짜 창작물을 소비할 수 있다는 기본 전제를 무너뜨리고 있습니다.
참고자료:
답글 남기기