내 글이 AI가 쓴 걸로 오해받으면 어떻게 될까요. 지난주 Substack이 이 질문을 현실로 만들었습니다. 플랫폼에 AI 탐지 기능을 넣자, 정작 AI를 한 번도 쓴 적 없는 창작자들까지 불안에 떨기 시작했습니다.

Substack CEO 크리스 베스트는 “내용이 진짜인지 알기가 점점 어려워지고 있다”며, 아무도 만들지 않은 콘텐츠가 인터넷 구석구석을 채워버리면 사람의 목소리를 찾기 힘들어진다고 새 기능 도입 이유를 밝혔죠. 이를 위해 AI 탐지 스타트업 Pangram과 손잡고, 어떤 글이든 스캔해 AI/인간 작성 비율을 퍼센트 점수로 보여주는 기능을 플랫폼에 내장한 것입니다.

출처: Substackers Say New AI Detection Tool Is a ‘Witch Hunt’ – 404 Media

두 갈래로 갈린 반발

반발은 정반대 방향에서 동시에 터져 나왔습니다. 한쪽은 실제로 AI를 글쓰기에 활용하는 창작자들이죠. 뉴스레터 “Backstage Pass”를 운영하는 맥 콜리어는 “AI를 쓴 걸 사과할 생각 없다”며, AI가 자신의 글을 더 잘 다듬어준다고 밝혔습니다. 20년간 AI 없이 글을 써왔지만, 지금은 AI 덕분에 결과물의 질이 더 좋아졌다는 것.

다른 한쪽은 AI를 전혀 쓰지 않는 창작자들입니다. 고스트라이터이자 글쓰기 코치인 앨리스 르메는 “이 탐지기들은 악명 높을 정도로 부정확하다”고 지적했죠. 단 한 번의 잘못된 판정만으로도 작가의 평판이 거의 돌이킬 수 없이 무너질 수 있다는 우려입니다.

탐지기 자체도 완벽하지 않다

Pangram CEO 맥스 스페로는 자사 오탐률을 1만 분의 1 수준으로 추정한다고 밝혔습니다. 언뜻 낮아 보이는 숫자지만, 매일 수많은 글이 올라오는 플랫폼 전체로 보면 얘기가 달라지죠. 404 Media는 과거 취재에서 Pangram을 포함한 AI 탐지기들이 인간이 쓴 글을 AI로, AI가 쓴 글을 인간으로 잘못 판정하는 사례를 이미 여러 차례 확인했다고 짚었습니다.

교수이자 작가인 샘 일링워스는 이 상황을 “마녀사냥의 귀환”이라는 제목의 글로 정리했습니다. “Pangram은 방대한 텍스트로 학습해 확률적 추측을 하는 진짜 기계”이며, “그 기계를 당신의 글에 겨눠 그 안에 사람이 숨어 있는지를 알아내려 한다”는 것. 누군가 사람인지 아닌지 판단하려고, 결국 또 다른 기계에게 물어보는 셈이죠.

플랫폼은 두 선택지 다 열어뒀다

Substack은 반발을 의식한 듯 절충안도 함께 내놓았습니다. “이렇게 썼습니다”라는 문구를 달아 자신의 작업 과정과 AI 사용 여부를 직접 공개할 수 있는 기능을 추가한 것. 베스트는 “우리는 AI 사용 자체에 반대하지 않는다, 어떤 도구를 쓸지는 각자 자유롭게 선택할 수 있어야 한다”고 밝혔죠. 인간 글쓰기를 고수하는 사람도, AI 도구의 최전선을 공개적으로 탐구하는 사람도 플랫폼 안에 함께 있다는 게 그의 설명입니다.

다만 이 자기 공개는 선택 사항이고, 탐지 스캔은 누구나 켤 수 있습니다. 결국 판정의 무게는 여전히 확률적 추측 하나에 실려 있는 셈입니다.