한 학생이 직접 쓴 에세이를 제출했습니다. 학교 지급 크롬북에 설치된 AI 감지기가 에세이를 스캔했고, 결과가 떴습니다. “18% AI 작성.” 학생은 당황해서 글을 다시 읽었습니다. 모든 문장이 자신이 직접 쓴 것이었습니다. 원인을 찾던 중, 문제는 단 하나였습니다. “devoid”라는 단어였죠. 그 단어를 “without”으로 바꾸자 감지 점수는 0%로 떨어졌습니다.

TechSpot이 보도한 이 사례는 단순한 해프닝이 아닙니다. AI 표절 감지 도구가 학생들의 글쓰기 방식 자체를 조용히 바꾸고 있다는 현상의 단면입니다. 뉴욕시립대(CUNY) 영어 강사 Dadland Maye가 교실에서 직접 관찰한 패턴을 Chronicle of Higher Education에 발표했고, TechSpot이 이를 분석했습니다.

출처: Students are learning to write for AI detectors, not for humans – TechSpot

AI 감지기는 어떻게 작동하는가

AI 글쓰기 감지기는 텍스트를 ‘이해’하지 않습니다. 대신 통계적 패턴을 읽습니다. 토큰 빈도, 문장 길이 변화(“burstiness”, 즉 문장 구조의 변동성), 어휘 분포 등을 분석해서 특정 텍스트가 LLM이 생성했을 확률을 계산하는 방식입니다.

문제는 여기에 있습니다. AI가 즐겨 쓰는 패턴과 좋은 글을 쓰는 인간 필자의 패턴이 겹친다는 점입니다. 자신감 있는 문장, 풍부한 어휘, 일관된 흐름 — 이런 요소들이 오히려 AI 작성 의심 신호로 잡힙니다. “devoid” 같은 단어 하나가 점수를 끌어올릴 수 있는 이유가 여기에 있습니다.

학생들이 선택한 세 가지 대응

경제학에서 ‘코브라 효과(Cobra Effect)’라는 개념이 있습니다. 문제를 해결하려고 도입한 정책이 오히려 그 문제를 강화하는 현상입니다. AI 감지기가 교실에서 만들어낸 상황이 정확히 이것입니다.

Maye가 관찰한 학생들의 반응은 세 방향으로 나뉩니다.

첫째, 스타일을 죽이는 전략입니다. 풍부한 어휘나 개성 있는 문장 구조를 포기하고 더 평범하게 씁니다. 감지기의 통계적 평균에 맞추기 위해서입니다. 글쓰기의 목표가 ‘좋은 문장’에서 ‘평범한 문장’으로 이동합니다.

둘째, AI를 역으로 활용하는 전략입니다. 직접 쓴 초고를 AI 도구에 돌려 감지될 가능성이 높은 표현을 찾아 수정합니다. AI를 쓰지 않기 위해 AI를 씁니다. 허위 신고를 당한 한 학생은 이후 여러 AI 서비스를 구독하며 감지 메커니즘을 역설계했습니다.

셋째, 과도한 시간 소모입니다. 주 20~40시간씩 일하며 학업을 병행하는 CUNY 학생들에게 특히 가혹합니다. 원본임에도 AI 작성으로 표시된 문장을 반복해서 수정해야 하는 상황이 생깁니다. 한 학생은 이렇게 말했습니다. “계속 고치고 또 고칩니다. 시간이 너무 많이 걸려요.”

감지기가 실제로 가르치는 것

가장 심각한 문제는 학생들이 내면화하는 메시지입니다. 유창하게 쓰는 것이 불리할 수 있다. 개성 있는 목소리가 의심을 산다. 이 인식이 쌓이면 글쓰기의 목표 자체가 달라집니다. 생각을 명확히 표현하는 것이 아니라, 알고리즘이 정한 평균치를 통과하는 것이 목표가 됩니다.

Maye는 결국 방향을 바꿨습니다. 감지기 대신, AI 사용법 자체를 수업으로 가르쳤습니다. AI로 조사하고 개요를 짜되 초고는 직접 쓰도록 했고, AI 요약의 한계와 모델이 사고를 대체하는 시점을 인식하는 법을 다뤘습니다. 그러자 학생들이 허위 신고에 항의하는 대신, AI를 어떻게 책임감 있게 쓸 수 있는지를 물으러 오기 시작했습니다.

AI 사용을 막으려 도입한 감지기가 AI를 더 많이 쓰게 만들었다는 역설 — 이 글은 그것이 예외적 사례가 아니라 구조적 문제임을 보여줍니다. Chronicle of Higher Education에 실린 Maye의 원문에는 더 다양한 학생 사례와 교육 현장의 구체적인 맥락이 담겨 있습니다.

참고자료: Opinion | AI Detection Pushed My Students to Use AI – The Chronicle of Higher Education