2024년 한 행사에서 트위치 임원이 아마존 AI 학습에 트위치 콘텐츠를 쓰느냐는 질문을 받았습니다. 답은 “물론”이었죠. 그로부터 2년이 더 지난 지난 12일, 끄는 스위치가 처음 생겼습니다.
트위치가 계정 설정에 “내 채널 콘텐츠가 아마존의 생성형 AI 콘텐츠 모델 학습에 쓰이도록 허용” 토글을 추가했죠. 위치는 보안 설정 페이지 맨 아래입니다. 모든 사용자가 켜진 상태로 시작하고, 원하지 않는 사람이 직접 찾아 들어가 꺼야 하는 구조.
출처: Twitch content has trained Amazon AI for years, but users can opt out now – Ars Technica
무엇이 학습 대상이었나
트위치 지원 문서가 열거한 범위는 넓습니다. 스트림과 VOD, 클립, 스트림 채팅, 그리고 채널에 올린 사진과 텍스트까지 포함되죠. 대상 모델은 텍스트·오디오·이미지·영상을 생성하거나 합성하는 아마존의 모델입니다.
트위치가 든 예시는 음성 인식입니다. 방송의 오디오가 음성을 텍스트로 바꾸는 모델을 다듬는 데 쓰이고, 그 결과가 트위치 자막뿐 아니라 아마존 전반의 자막 품질로 이어진다는 설명이죠. 학습에 들어가는 것이 목소리와 얼굴, 실시간으로 오간 채팅이라는 점을 생각하면 예시보다 범위가 훨씬 넓습니다.
옵트아웃이라는 설계가 만드는 것
옵트인과 옵트아웃의 차이는 문서상 한 단어지만 결과는 크게 갈립니다. 공지를 본 사람만 설정을 바꾸고, 못 본 사람의 콘텐츠는 그대로 남는 구조죠. 404 Media가 짚은 지점이 정확히 이겁니다. 발표를 접하지 못했거나 절차를 따라가지 않은 다수의 스트리머가 자동으로 포함된다는 것.
토글의 적용 범위에도 선이 있습니다. 트위치의 문구는 “앞으로의 학습”에 관한 것이죠. 2년 넘게 이미 학습에 들어간 분량을 되돌리는 장치가 아니라는 뜻. 지금 끄는 행위가 막는 건 과거가 아니라 이후에 벌어질 일입니다.
막으려는 쪽이 꺼낸 다른 카드들
같은 주에 나온 ShieldFont는 접근 자체가 다릅니다. 디자이너 두 사람이 만든 이 폰트는 합자(ligature) 기능을 이용해, 화면에 그려질 때만 원래 단어가 보이고 HTML 소스에는 다른 단어가 남게 만들죠. 동의어나 반의어로 바꾸면 되돌리기 쉬우니, 품사는 같고 의미 맥락은 전혀 다른 단어로 교체합니다. 말(horse)을 감자(potato)로 바꾸는 식입니다.
수치도 제법 공격적입니다. 페이지 전체 단어의 평균 24.5%, 내용어 기준으로는 45.8%가 치환되고, 공개된 스크래퍼 파이프라인 여섯 개를 대상으로 한 테스트에서 원래라면 통과했을 페이지의 90% 이상이 품질 필터에서 걸러졌습니다. 제작자들의 표현을 빌리면 “걸러졌다면 당신 글을 못 가져간 것이고, 통과했다면 틀린 걸 가져간 것”이죠. 대신 검색엔진과 스크린리더, 복사·붙여넣기와 번역 도구가 함께 망가진다는 대가가 따릅니다.
책 쪽에서는 더 물리적인 일이 벌어지고 있습니다. AI 기업들이 헌책과 희귀본을 대량 매입해 책등을 잘라내고 스캔한 뒤 폐기하는 관행이 보도되면서, 고서점들이 저항하고 있죠. 구글이 2009년에 특허를 낸 비파괴 스캔 기술이 있고 인터넷 아카이브는 오래전부터 손으로 한 장씩 넘겨 스캔해왔지만, 속도와 비용에서 밀린다는 게 Ars Technica의 정리입니다.
퍼블리셔 쪽에서 봇을 다루는 방식은 또 다른 갈래죠. 막는 대신 봇에게만 보이는 페이지를 따로 만들어 그 안에 광고를 심은 사례도 있었습니다.
TIME이 AI 봇에게만 보여주는 페이지에 광고를 심었다, 사람은 볼 수 없는 13KB
내 계정에도 같은 스위치가 있을까
트위치만의 이야기로 읽으면 놓치는 게 있습니다. 스트림, 블로그 글, 사진, 댓글까지 어딘가에 올려둔 것이 있다면 대개 비슷한 구조 안에 있습니다. 기본값은 허용이고, 선택권은 나중에 생기며, 생겼다는 사실은 공지 한 번으로 전달됩니다.
ShieldFont와 고서점의 저항이 같은 스펙트럼 위에 있는 것도 그래서입니다. 한쪽 끝에는 설정 토글이, 다른 끝에는 데이터를 먹지 못하게 오염시키는 기술이 있죠. 그 사이에서 각자 어디쯤에 서 있을지는 결국 자기 콘텐츠가 무엇이고 어디에 올라가 있는지에 달린 문제입니다.
참고자료:
답글 남기기