AI에게 글을 다듬어달라고 하면 더 나아질까요? 표면은 매끄러워지지만, 정작 그 글을 그 글답게 만들던 것이 사라지고 있을 수 있습니다.

IT 전문 매체 The Register가 AI 글쓰기의 구조적 문제를 짚은 오피니언을 실었습니다. 핵심 개념은 ‘시멘틱 어블레이션(semantic ablation)’, 직역하면 ‘의미 소거’입니다. AI가 텍스트를 생성하거나 수정하는 과정에서 독창적인 표현과 정보 밀도를 체계적으로 지워버린다는 주장입니다.

출처: Semantic ablation: Why AI writing is boring and dangerous – The Register

AI는 왜 글을 평범하게 만드는가

AI 언어 모델은 다음에 올 가장 ‘확률 높은’ 단어를 선택하도록 설계되어 있습니다. 그리고 RLHF(인간 피드백 기반 강화학습)로 ‘도움이 되고 안전한’ 방향으로 추가 훈련을 받습니다. 이 두 가지가 결합되면 필연적으로 평균을 향해 수렴하게 됩니다. 통계적으로 드문 표현 — 정확하지만 낯선 단어, 날카롭지만 불편한 비유 — 은 확률이 낮다는 이유로 걸러집니다.

글쓴이는 이 과정이 3단계로 진행된다고 설명합니다. 먼저 독특한 비유나 감각적 이미지가 안전한 클리셰로 교체되고, 다음으로 전문 용어나 고밀도 어휘가 더 일반적인 동의어로 치환됩니다. 마지막으로 비선형적 논리 구조가 예측 가능한 흐름으로 재편됩니다. 각 단계마다 글의 ‘정보 밀도’가 낮아집니다.

“환각(hallucination)이 없는 것을 만들어내는 문제라면, 시멘틱 어블레이션은 있는 것을 지워버리는 문제”라는 대비가 이 개념의 핵심입니다. AI가 그럴듯한 거짓말을 추가하는 것과, 진짜 있던 내용을 조용히 삭제하는 것 — 둘 다 오류이지만 후자는 훨씬 눈에 띄지 않습니다.

“생각의 JPEG”

글쓴이는 이 결과물을 “생각의 JPEG”에 비유합니다. 시각적으로는 원본처럼 보이지만, 압축 과정에서 데이터가 손실된 이미지입니다. AI가 다듬은 글도 마찬가지로 읽기에 불편함은 없지만, 원래의 정보 밀도와 고유한 뉘앙스는 이미 사라진 상태입니다.

짧은 칼럼이지만 던지는 질문은 무겁습니다. AI 글쓰기 도구가 일상화될수록, 우리는 자신도 모르게 글에서 가장 개성 있는 부분을 반복적으로 지워가고 있는 건 아닐까요. 시멘틱 어블레이션이 왜 ‘위험’한지에 대한 저자의 논거는 원문에서 더 자세히 읽어볼 수 있습니다.