AI가 다른 AI의 결과물을 학습하면서 정보의 품질이 점차 떨어지는 ‘모델 붕괴’ 현상이 현실이 되고 있습니다. 구글 AI 오버뷰의 10% 이상이 이미 AI 생성 콘텐츠를 인용하고 있다는 충격적인 연구 결과가 나왔거든요.
시작은 ‘Shrimp Jesus’였다
페이스북을 둘러보다 보신 적 있나요? 새우와 예수가 기묘하게 합쳐진 이미지들 말이에요. 이른바 ‘Shrimp Jesus’라고 불리는 이 AI 생성 이미지들이 수천 개의 ‘아멘’ 댓글을 받으며 바이럴되고 있습니다.
이게 단순한 밈이라고 생각하시면 오산입니다. 이런 AI 생성 콘텐츠가 인터넷을 점령하고 있어요. 2024년 기준으로 인터넷 트래픽의 거의 50%가 봇에 의한 것이라는 통계도 있습니다.
네이처가 증명한 ‘모델 붕괴’ 현상
올해 네이처에 발표된 연구에서 과학자들이 무서운 사실을 발견했습니다. AI 모델이 이전 세대 AI가 만든 데이터로 훈련받으면 성능이 점점 떨어진다는 거예요.
이걸 ‘모델 붕괴(Model Collapse)’라고 부릅니다. 쉽게 말해 복사의 복사를 반복하면 화질이 떨어지는 것과 같은 원리입니다. 원본 데이터의 미묘한 특징들이 사라지고, 결국 AI는 현실을 제대로 파악하지 못하게 됩니다.
연구진은 실제로 언어 모델을 대상으로 실험했어요. 5세대만 거쳐도 모델이 생성하는 텍스트가 눈에 띄게 이상해졌습니다. 반복되는 단어들, 이상한 문장 구조… 마치 전화 게임에서 마지막에 전혀 다른 말이 나오는 것처럼 말이죠.
구글도 예외는 아니다
Originality.ai가 2만 9천 개의 구글 검색 쿼리를 분석한 결과가 놀랍습니다. 구글 AI 오버뷰가 인용하는 자료 중 10.4%가 AI가 생성한 콘텐츠였어요.
더 심각한 건 이런 AI 콘텐츠들이 검색 상위 100개 결과에는 없던 것들이라는 점입니다. 즉, 구글이 일반 검색에서는 보여주지 않을 만한 품질의 콘텐츠를 AI 오버뷰에서는 인용하고 있다는 뜻이죠.
구글 측은 “AI 탐지 도구의 정확도가 의심스럽다”며 반박했지만, 이미 현실은 달라지고 있습니다.
인터넷은 정말 ‘죽어가고’ 있는가
‘Dead Internet Theory’라는 음모론이 있습니다. 2016년부터 인터넷이 주로 봇과 AI 생성 콘텐츠로 채워지고 있다는 이론이에요. 처음엔 황당해 보였지만, 지금 보면 예언에 가깝습니다.
페이스북에서는 AI가 자동으로 댓글을 생성하는 기능까지 도입했어요. 게시물에 질문이 포함되어 있고 한 시간 동안 댓글이 없으면 AI가 대신 답변합니다. 인간과 AI의 경계가 흐려지고 있는 거죠.
유튜브에서는 가짜 조회수가 너무 많아져서 엔지니어들이 ‘인버전(The Inversion)’이라는 현상을 걱정했습니다. 가짜를 진짜로, 진짜를 가짜로 착각할 정도로 AI 콘텐츠가 넘쳐나는 상황 말이에요.
지식의 품질이 떨어지고 있다
이 모든 게 왜 문제일까요? 정보의 다양성이 사라지고 있거든요. AI는 확률적으로 가장 ‘평균적인’ 답변을 생성합니다. 독특하고 소수의 의견, 창의적인 관점들이 점점 사라지는 거예요.
예를 들어 AI가 생성한 기사를 읽고 다른 AI가 또 기사를 쓰면, 원래 있던 미묘한 뉘앙스나 독창적인 시각이 점점 희석됩니다. 결국 모든 콘텐츠가 비슷비슷해지죠.
더 심각한 건 잘못된 정보의 확산입니다. AI가 만든 가짜 정보를 다른 AI가 학습하면서 오류가 계속 증폭될 수 있어요.
원본 데이터의 가치 상승
아이러니하게도 이런 상황이 인간이 만든 원본 콘텐츠의 가치를 높이고 있습니다. 진짜 인간의 경험과 창의성이 담긴 콘텐츠가 더욱 소중해지는 거죠.
AI 회사들도 이걸 알고 있어요. 그래서 뉴욕타임스, 월스트리트저널 같은 언론사와 라이선스 계약을 맺고 있습니다. 고품질 인간 콘텐츠에 대한 수요가 늘어나는 거예요.
레딧이 API 사용료를 받기 시작한 것도 같은 맥락입니다. 진짜 인간의 대화 데이터가 그만큼 가치 있다는 뜻이거든요.
우리는 어떻게 대응해야 할까
이 변화의 물결에서 살아남으려면 어떻게 해야 할까요? 몇 가지 실용적인 팁을 드릴게요.
콘텐츠 크리에이터라면 더욱 개성 있고 인간적인 콘텐츠에 집중해야 합니다. AI가 흉내 낼 수 없는 개인적 경험, 감정, 독창적 관점을 담아내세요.
정보를 소비하는 입장이라면 출처를 확인하는 습관을 기르세요. 특히 AI 생성 콘텐츠를 구별하는 눈을 키우는 게 중요해요. 너무 완벽하거나 뻔한 내용은 의심해보세요.
기업이라면 AI 도구를 쓰더라도 인간의 창의성과 검토 과정을 반드시 포함시켜야 합니다. AI는 도구일 뿐, 대체재가 아니에요.
새로운 균형점을 찾아야 할 때
AI가 나쁘다는 얘기가 아닙니다. 문제는 AI가 AI를 학습하는 순환고리에요. 이 고리를 끊으려면 인간이 만든 원본 데이터의 공급이 계속되어야 합니다.
다행히 일부 AI 회사들이 이 문제를 인식하고 있어요. 원본 데이터를 보존하고, 인간의 피드백을 지속적으로 반영하는 시스템을 만들고 있습니다.
결국 AI와 인간이 공존하는 새로운 균형점을 찾는 게 관건이에요. AI의 효율성과 인간의 창의성이 서로를 보완할 수 있는 구조 말이죠.
인터넷이 ‘죽어가고’ 있다기보다는, 새로운 형태로 진화하고 있는 것일지도 모릅니다. 이 변화의 흐름을 이해하고 현명하게 대응한다면, 더 나은 디지털 생태계를 만들 수 있을 거예요.
참고자료:
Comments