“AI 쓰레기를 사이트에 집어넣으려 한다니 실망스럽다. 아무도 원하지 않는다. 우리는 사이트가 개선되기를 원하지, 새 기능에 돈을 내고 싶지 않다.”

이 불평이 Reddit이나 개발자 Slack에서 나왔다면 익숙하게 들렸을 겁니다. 그런데 이 말은 사이버범죄 포럼에서 나왔습니다. 해커들도 AI 슬롭에 진저리를 치고 있습니다.

출처: AI Slop is Killing Online Communities – Robin Moffatt

• Hackers Hate AI Slop Even More Than You Do – Wired

두 커뮤니티, 같은 불평

에든버러대 Ben Collier 연구팀은 2022년 ChatGPT 출시 이후 사이버범죄 포럼에서 오간 AI 관련 대화 97,895건을 분석했습니다. 연구팀이 발견한 건 해킹 기술의 고도화가 아니었습니다. “bullet-pointed 기초 사이버보안 개념 정리”를 쏟아내는 사람들과, 그에 지쳐가는 기존 멤버들이었습니다.

“AI 챗봇이랑 얘기하고 싶으면 그런 사이트가 널렸다. 나는 여기 인간과 대화하러 왔다.”

Hack Forums의 한 게시물입니다. 비슷한 시기, Kafka 커뮤니티에서 활동하는 개발자 Robin Moffatt도 같은 좌절을 블로그에 쏟아냈습니다. Reddit은 vibe-coded 프로젝트 홍보글로 넘쳐나고, Slack은 AI가 쓴 게시물로 가득 찹니다. 적법한 개발자 커뮤니티와 지하 해킹 포럼이 같은 불평을 하고 있다는 건, 이게 특정 집단의 취향 문제가 아니라는 뜻입니다.

AI 슬롭이 커뮤니티를 해치는 두 가지 방식

비대칭적 쓰레기 문제

Moffatt은 이것을 “Asymmetry of Bullshit”이라고 부릅니다. 쓰레기를 만드는 데 드는 에너지보다 그것을 걸러내는 데 드는 에너지가 훨씬 크다는 뜻입니다.

AI 이전에는 기여에 필요한 노력 자체가 일종의 필터였습니다. 글을 직접 쓰고, 코드를 직접 짜야 했기 때문에 저품질 기여의 양에 자연스러운 한계가 있었습니다. 지금은 그 장벽이 거의 사라졌습니다. 프롬프트 하나로 블로그 글이 나오고, 깃허브 리포가 생깁니다. 하지만 그것을 읽고 판단해야 하는 사람들의 부담은 그대로입니다.

커뮤니티 입장에서 보면, 어떤 기여는 있는 것보다 없는 게 낫습니다.

정체성 위협

사이버범죄 포럼에서 포착된 또 다른 반응도 있습니다. Collier 연구팀에 따르면, 일부 해커들이 AI 슬롭을 싫어하는 이유 중 하나는 그것이 자신의 전문성 주장을 약화시키기 때문입니다. “skilled person”임을 증명하는 공간에서, 누구나 AI로 흉내 낼 수 있는 콘텐츠가 넘치면 그 신호 자체가 의미를 잃습니다.

개발자 커뮤니티에서도 다르지 않습니다. 오랫동안 글을 쓰고 코드를 공유해온 사람들의 기여가, AI가 1분 만에 만들어낸 것들과 같은 공간에 섞이기 시작합니다.

Built with AI, Built by AI

그렇다면 AI를 써서 만든 모든 것이 문제인가, 하면 그건 아닙니다. Moffatt은 동료 개발자 Gunnar Morling의 표현을 빌려 이 경계를 설명합니다.

AI로 만든 것(built with AI)과, AI가 만든 것(built by AI).

Morling은 4개월에 걸쳐 Apache Parquet의 새 파서 Hardwood를 만들었습니다. AI를 도구로 썼지만, 설계와 판단과 책임은 사람이 졌습니다. 이런 기여는 커뮤니티에 실질적인 가치를 더합니다. 반면 프롬프트를 넣고 결과물을 그대로 올리는 건, Moffatt의 표현대로 “과정의 유치한 산출물”을 공유하는 것에 가깝습니다.

Collier 연구에서도 비슷한 맥락이 나옵니다. 일부 포럼 사용자들은 문법 교정이나 구조 정리를 돕는 AI 어시스턴트라면 환영하겠다고 했습니다. 하지만 AI가 통째로 포스팅을 대신하는 건 거부했습니다. “그러면 여기가 AI들끼리 대화하는 포럼이 된다”고요.

잡초가 자라는 방식

Moffatt은 이 현상을 bindweed(메꽃)에 비유합니다. 정원을 서서히, 조용히 질식시키는 잡초입니다. 유기적인 교류와 신뢰로 이루어진 공간이 저품질 콘텐츠로 오염되면, 기존 멤버들이 이탈하고, 커뮤니티의 밀도가 얇아집니다. 그 공백을 더 많은 AI 슬롭이 채웁니다.

해커 포럼과 개발자 커뮤니티가 같은 불평을 하고 있다는 역설이 하나의 신호입니다. 온라인 공간에서 사람들이 진짜로 원하는 것, 즉 인간적인 상호작용과 신뢰할 수 있는 기여의 가치가 AI가 콘텐츠 생산 비용을 거의 0으로 만든 세계에서 오히려 더 선명하게 드러나고 있습니다.

참고자료: How Low-Level Cybercriminals Are Using and Misusing GenAI – arxiv.org