시카고 선타임스의 “Heat Index” 여름 특집 부록. 출처: Tbretc / Instagram
존재하지 않는 책들이 신문에 등장하다
2025년 5월 18일, 시카고 선타임스는 “Heat Index: Your Guide to the Best of Summer(히트 인덱스: 여름을 위한 최고의 가이드)”라는 64페이지 분량의 여름 특집 부록을 발행했습니다. 이 부록에는 “Summer Reading list for 2025(2025년 여름 독서 목록)”이라는 섹션이 포함되어 있었는데, 이 목록에는 한 가지 큰 문제가 있었습니다. 바로 목록에 소개된 대부분의 책들이 실제로는 존재하지 않는 책이었던 것입니다.
이 독서 목록은 이사벨 아옌데(Isabel Allende)의 “Tidewater Dreams”, 앤디 위어(Andy Weir)의 “The Last Algorithm” 등 유명 작가들의 신작을 소개했지만, 이 책들은 모두 실존하지 않는 가상의 책이었습니다. 실제 저자의 이름을 사용했지만 그들이 쓰지 않은 책을 마치 실제로 존재하는 것처럼 소개한 것입니다.
소설가 레이첼 킹(Rachael King)이 소셜 미디어 플랫폼 블루스카이에 이 오류를 처음으로 지적했고, 곧 인터넷을 통해 논란이 확산되었습니다. 이 사건은 AI가 생성한 콘텐츠가 사실 확인 없이 언론에 게재되는 위험성을 보여주는 대표적인 사례가 되었습니다.
어떻게 이런 일이 벌어졌을까?
해당 콘텐츠는 시카고 선타임스의 자체 제작이 아닌 King Features Syndicate라는 외부 업체를 통해 제공받은 것으로 밝혀졌습니다. King Features는 미디어 대기업 Hearst의 자회사로, 여러 신문사에 콘텐츠를 제공하는 회사입니다. 이 특집 부록은 시카고 선타임스뿐만 아니라 필라델피아 인콰이어러 등 다른 신문에도 게재되었습니다.
이 콘텐츠를 작성한 프리랜서 작가 마르코 부스카글리아(Marco Buscaglia)는 404 Media와의 인터뷰에서 AI를 사용해 도서 목록을 작성했으며, 사실 확인을 제대로 하지 않았다고 인정했습니다.
“어리석게도, 100% 제 잘못인데, AI가 내뱉은 이 목록을 그냥 다시 게재했습니다. 보통은 하지 않을 일이죠. 글을 쓰지 않더라도 적어도 올바르게 출처를 표시하고 검증하여 모든 것이 정당한지 확인하는 것이 일반적입니다. 그리고 저는 분명히 그 임무에 실패했습니다.”
부스카글리아는 이런 명백한 오류를 놓친 것에 대해 “변명의 여지가 없다”며 “완전히 부끄럽다”고 말했습니다.
미디어 산업의 위기와 AI 의존도 증가
이 사건은 시카고 선타임스가 심각한 재정난으로 직원의 20%를 감축한 지 2개월 만에 발생했습니다. 2025년 3월, 시카고 선타임스의 비영리 소유주인 Chicago Public Media는 30명의 직원(그 중 23명은 뉴스룸 직원)이 정리해고 제안을 수락했다고 발표했습니다.
이러한 인력 감축은 수년 내 가장 극적인 것이었으며, 수십 년의 경험을 가진 칼럼니스트, 사설 작가, 편집자들이 회사를 떠났습니다. Chicago Public Media의 CEO 멜리사 벨은 당시 이 인력 감축으로 회사가 연간 420만 달러를 절약할 것이라고 밝혔습니다.
미디어 산업의 재정적 압박이 커지면서 많은 언론사들이 비용 절감을 위해 AI 기술에 더 많이 의존하게 되었습니다. 그러나 이번 사건은 AI가 생성한 콘텐츠에 대한 철저한 검증 과정 없이는 심각한 오류가 발생할 수 있음을 보여줍니다.
AI 환각(Hallucination) 현상의 위험성
AI 환각 현상이란 AI가 실제로 존재하지 않는 정보를 마치 사실인 것처럼 생성하는 현상을 말합니다. 이 사건에서 AI는 실제 저자의 이름은 알고 있었지만, 그들이 쓰지 않은 책을 마치 실제로 존재하는 책인 것처럼 묘사했습니다.
이 같은 AI 환각 현상은 단순한 오류를 넘어 잘못된 정보의 확산으로 이어질 수 있습니다. 특히 신문과 같은 신뢰받는 미디어에 게재될 경우, 그 영향력은 더욱 커집니다. 독자들은 신문에 실린 정보를 사실로 받아들이기 때문입니다.
시카고 선타임스 기자 노조는 성명을 통해 “우리 작업 옆에 AI가 생성한 콘텐츠가 인쇄되었다는 사실에 깊이 우려한다”며 “우리 회원들은 정보원과 커뮤니티와의 신뢰를 구축하기 위해 많은 노력을 기울이고 있으며 이런 형편없는 신디케이션에 경악하고 있다”고 말했습니다.
AI 콘텐츠 검증은 어떻게 해야 할까?
이번 사건은 AI 생성 콘텐츠를 활용할 때 철저한 검증 프로세스의 중요성을 일깨워줍니다. AI 콘텐츠를 효과적으로 검증하기 위한 몇 가지 방법을 살펴보겠습니다:
1. 교차 검증(Cross-Verification)
AI가 생성한 정보는 항상 다른 신뢰할 수 있는 출처와 교차 검증해야 합니다. 특히 책, 인물, 이벤트 등 구체적인 사실 정보는 반드시 확인이 필요합니다. 이번 사건에서는 간단한 온라인 서점 검색만으로도 해당 책들이 존재하지 않는다는 사실을 확인할 수 있었을 것입니다.
2. 인간 편집자의 최종 검토
AI는 도구일 뿐, 인간의 판단과 검토를 대체할 수 없습니다. 전문 지식을 갖춘 인간 편집자의 최종 검토는 AI 콘텐츠 검증에서 가장 중요한 단계입니다. 특히 언론사와 같이 신뢰성이 중요한 기관에서는 더욱 그렇습니다.
3. AI 환각 현상에 대한 이해
AI 모델의 한계와 환각 현상에 대한 이해는 AI 콘텐츠를 다룰 때 필수적입니다. AI가 실제로 존재하지 않는 정보를 생성하는 경향이 있다는 것을 알고, 이를 적극적으로 검증하는 자세가 필요합니다.
4. 명확한 가이드라인 수립
언론사와 콘텐츠 제작 기관은 AI 콘텐츠 사용에 관한 명확한 가이드라인을 수립해야 합니다. 어떤 영역에서 AI를 활용할 것인지, 검증 과정은 어떻게 진행할 것인지 등을 명확히 정의해야 합니다.
미디어 업계가 배워야 할 교훈
시카고 트리뷴의 전 메트로 편집자이자 ‘Stop the Presses’ 뉴스레터 작가인 마크 제이콥은 이렇게 말했습니다:
“뉴스 매체가 자체적으로 제작하지 않은 자료를 제시할 때는 항상 위험했습니다. AI는 게으르고 부주의한 사람들이 쉽게 나쁜 콘텐츠를 만들 수 있게 함으로써 그 위험을 증폭시켰습니다. 정당한 미디어가 이로부터 무엇을 배워야 할까요? 신뢰할 수 있는 인간을 고용하여 콘텐츠를 제작하고, 귀하의 브랜드 하에 나가는 모든 콘텐츠를 신중하게 검토하세요.”
이번 사건 이후 시카고 선타임스는 해당 부록을 디지털 버전에서 삭제하고, 독자들에게 이번 호에 대한 요금을 청구하지 않기로 결정했습니다. 또한 제3자 콘텐츠가 신문사의 기준을 충족하고 더 명확하게 식별되도록 정책을 검토하겠다고 밝혔습니다.
결론: 균형 잡힌 AI 활용의 미래
AI 기술은 미디어 산업에 많은 기회를 제공하지만, 이번 사건은 AI가 인간의 판단과 검증을 완전히 대체할 수 없다는 사실을 다시 한번 상기시켜 줍니다. 특히 저널리즘과 같이 정확성과 신뢰성이 핵심인 분야에서는 더욱 그렇습니다.
미디어 기관과 콘텐츠 제작자들은 AI를 효율성을 높이는 도구로 활용하되, 철저한 검증 과정을 통해 정보의 정확성을 보장해야 합니다. 이는 AI 시대의 미디어가 직면한 가장 중요한 과제이자 책임입니다.
시카고 선타임스의 사례는 AI 시대에 콘텐츠 검증이 얼마나 중요한지, 그리고 그것이 얼마나 쉽게 간과될 수 있는지를 보여주는 교훈적인 사례입니다. 앞으로 더 많은 기관들이 AI를 활용하게 될 텐데, 이때 기술적 효율성과 콘텐츠 정확성 사이의 균형을 잘 유지하는 것이 성공의 핵심이 될 것입니다.
참고자료: Chicago Sun-Times prints summer reading list full of fake books – Ars Technica
Comments