지난주 Claude 워터마크 이야기가 “무엇이 붙나”였다면, 이번 소식은 “누가 검사할 수 있나”입니다. Anthropic이 제3자 탐지 API를 열기로 하면서, 교사도 편집자도 플랫폼도 Claude가 쓴 글인지 확인할 수 있게 됐죠.
Anthropic이 곧 워터마크 탐지 API를 공개합니다. 외부 개발자가 자기 앱에 AI 텍스트 탐지 기능을 붙일 수 있게 되는 것이죠. 워터마크가 무엇이고 어떻게 확인하는지는 앞선 글에서 다뤘으니, 여기서는 그 후속 전개에 집중합니다.
출처: How Claude’s text watermarking works (FAQ) – Anthropic
이제 남이 내 글을 검사할 수 있다
가장 큰 변화는 탐지의 문이 밖으로 열린다는 점이죠. 지금까지 Pangram 같은 외부 탐지 도구는 AI 특유의 표현이나 자주 쓰는 단어 같은 ‘패턴’을 추정했습니다. 키가 없으니 어디까지나 추정이었죠. Anthropic의 탐지는 접근이 다릅니다. 워터마크 키를 아는 쪽이 단어 선택의 통계적 패턴을 직접 대조하는 방식이라, 실전에서 더 신뢰할 만하다는 겁니다.
한계도 분명합니다. 워터마크는 “Claude가 관여했을 가능성”만 알려줄 뿐이죠. Claude가 글 전체를 썼는지 일부만 손봤는지는 구별하지 못하고, 사람이 썼는지 다른 AI가 썼는지도 가려내지 못합니다.
어떤 글이 걸리고 어떤 글이 안 걸리나
개인에게 중요한 건 결국 “내가 AI 도움으로 쓴 글이 탐지될까”라는 질문이죠. Anthropic이 공개한 조건이 여기에 꽤 구체적으로 답합니다.
짧은 글이나 사실을 나열한 문장, 코드는 잘 걸리지 않습니다. 고를 수 있는 표현이 적어 워터마크를 심을 여지가 없기 때문이죠. 사람이 모든 단어를 직접 고른 순수 교정도 걸리지 않죠. 반면 번역은 걸립니다. 번역에서는 Claude가 사실상 모든 단어를 선택하죠. 그리고 초안을 많이 고쳐 쓰면 워터마크는 벗겨집니다. 완벽한 낙인이 아니라, 조건에 따라 나타났다 사라지는 흔적인 셈이죠.
별일 아니다, 아니면 글쓰기의 왜곡인가
이 워터마크를 두고 평가가 갈리죠. 개발자 션 괴데케는 별일 아니라고 봅니다. 워터마크가 하는 일은 로짓 샘플러의 무작위성 원천을 다른 것으로 바꾸는 것뿐이라, 글의 품질에는 차이가 없다는 주장이죠. 어차피 2027년이면 모두가 하게 될 일이라고도 덧붙입니다.
존 그루버의 시선은 정반대입니다. Anthropic은 “의미도 품질도 가독성도 바꾸지 않는다”고 했지만, 실제로 하는 일은 모델이 고를 단어를 바꾸는 것이죠. 그루버는 이를 글의 의미를 훼손하는 ‘글쓰기의 왜곡’이라 부릅니다. 회사의 설명과 실제 동작 사이의 간극을 짚은 비판이죠.
대비되는 장면도 있죠. 같은 시기 구글은 Gemini의 ‘보이는’ 워터마크를 끌 수 있게 했습니다. 다만 SynthID와 C2PA 같은 비가시 워터마크는 그대로 남겨뒀죠. 텍스트 속에 흔적을 더 심는 Anthropic과, 눈에 보이는 표식을 빼는 구글. 투명성을 다루는 두 회사의 방향이 엇갈리는 모습입니다.
검사받는다는 전제에서 움직이기
워터마크는 콘텐츠의 진위를 가리는 인프라로 자리잡아 가고 있습니다. 동시에 그 신뢰성과 윤리는 아직 논쟁 한복판에 있죠. 개인 입장에서 분명한 건 하나입니다. 내가 AI 도움으로 쓴 글이 이제 남의 검사 대상이 될 수 있다는 것. 무엇이 걸리고 무엇이 안 걸리는지 대략이라도 알아두면, 적어도 놀랄 일은 줄어듭니다.
참고자료:
- Anthropic announces watermark detection API – The Decoder
- Anthropic Reveals What The Watermark Is And How It Can Be Defeated – Search Engine Journal
- AI text watermarking is not a big deal – Sean Goedecke
- Anthropic’s ‘Watermark’ Text Adulteration Is a Perversion of Writing – Daring Fireball
- You can now turn off Google Gemini’s visible watermarks – The Verge
답글 남기기