Apple이 Luigi Mangione 사건에서 “자살했다”는 거짓 뉴스 요약을 생성한 후 중단했던 AI 뉴스 요약 기능을 iOS 26 베타 4에서 재도입했습니다. 이번에는 적색 경고문과 함께 돌아왔습니다.
2024년 12월, Apple Intelligence가 만든 뉴스 요약 하나가 전 세계 언론의 주목을 받았습니다. 유나이티드헬스케어 CEO 브라이언 톰슨 살해 사건의 용의자 Luigi Mangione에 대한 BBC 뉴스를 요약하면서 “Luigi Mangione이 자살했다”는 완전히 거짓된 내용을 생성한 것입니다. 실제로는 Mangione은 체포되어 재판을 기다리는 상황이었습니다.
위험한 실수가 가져온 파장
이 사건은 단순한 기술적 오류를 넘어서 AI가 뉴스와 정보 전달에 미칠 수 있는 위험성을 적나라하게 보여주었습니다. BBC는 즉시 Apple에 공식 항의했고, “BBC News는 세계에서 가장 신뢰받는 뉴스 미디어”라며 “우리 이름으로 발행되는 모든 정보와 저널리즘에 대해 독자들이 신뢰할 수 있어야 한다”고 강조했습니다.
BBC만이 아니었습니다. 뉴욕타임스의 기사들을 요약하면서 “네타냐후 체포됨”이라는 잘못된 정보를 생성하기도 했습니다. 실제로는 국제형사재판소가 네타냐후에 대한 체포영장을 발부했다는 내용을 잘못 해석한 것이었습니다.
신중한 복귀: 경고와 함께 돌아온 기능
Apple은 이런 문제들로 인해 2025년 1월 iOS 18.3에서 뉴스 앱에 대한 알림 요약 기능을 완전히 비활성화했습니다. 그리고 6개월 후인 2025년 7월, iOS 26 베타 4에서 이 기능이 다시 등장했습니다. 하지만 이번에는 확연히 달라진 모습으로 말입니다.
가장 눈에 띄는 변화는 뉴스와 엔터테인먼트 카테고리를 활성화할 때 나타나는 적색 경고문입니다: “요약이 원래 헤드라인의 의미를 바꿀 수 있습니다. 정보를 확인하세요.” 또한 모든 요약에는 “Apple Intelligence로 요약됨”이라는 별도 표시가 붙어 일반 알림과 구분됩니다.
사용자들은 이제 세 가지 카테고리로 나누어 알림 요약을 선택적으로 활성화할 수 있습니다:
- 뉴스 및 엔터테인먼트
- 커뮤니케이션 및 소셜
- 기타 모든 앱
AI 시대의 정보 신뢰성 딜레마
이번 사건은 AI 기술이 우리 일상에 깊이 스며들면서 발생하는 근본적인 문제를 드러냅니다. AI는 분명히 정보 처리와 요약에서 놀라운 능력을 보여주지만, 맥락을 이해하고 정확성을 보장하는 데는 여전히 한계가 있습니다.
특히 뉴스와 같은 민감한 정보 영역에서는 작은 실수도 큰 파장을 일으킬 수 있습니다. Luigi Mangione 사건처럼 진행 중인 사법 절차나 정치적으로 민감한 사안에서의 오보는 개인의 명예뿐만 아니라 사회적 혼란까지 야기할 수 있습니다.
업계 전반의 도전과제
Apple만이 이런 문제를 겪고 있는 것은 아닙니다. Google의 AI 오버뷰는 피자에 “무독성 접착제”를 사용하라고 제안하거나 “지질학자들이 하루에 돌 하나씩 먹기를 권한다”는 황당한 답변을 제공한 바 있습니다. 이는 AI가 웹상의 잘못된 정보나 농담을 진실로 받아들이는 한계를 보여줍니다.
이런 문제들은 AI 기술 자체의 한계라기보다는 복잡하고 미묘한 인간의 언어와 맥락을 완벽하게 이해하는 것이 얼마나 어려운 일인지를 보여줍니다. AI는 패턴을 인식하고 통계적으로 가장 가능성 높은 답을 제공하지만, 진실성이나 적절성을 판단하는 능력은 아직 부족합니다.
실무에서 얻을 수 있는 교훈
이번 Apple의 사례에서 AI를 활용하는 개인과 기업들이 얻을 수 있는 실용적인 인사이트는 명확합니다.
첫째, 검증의 중요성입니다. AI가 생성한 모든 정보는 반드시 사람이 검토하고 확인해야 합니다. 특히 뉴스, 의료, 법률, 금융 등 정확성이 중요한 분야에서는 더욱 그렇습니다.
둘째, 사용자 교육과 투명성의 필요성입니다. Apple이 적색 경고문을 추가한 것처럼, AI 도구를 제공할 때는 그 한계를 명확히 알리고 사용자가 충분히 인지할 수 있도록 해야 합니다.
셋째, 점진적 개선의 중요성입니다. Apple은 기능을 완전히 포기하는 대신 6개월간의 개선 작업을 거쳐 더 안전한 형태로 기능을 복원했습니다. 이는 AI 기술 발전의 올바른 방향을 제시합니다.
책임감 있는 AI 발전을 향하여
Apple Intelligence 뉴스 요약 기능의 복귀는 단순한 기능 업데이트가 아닙니다. 이는 AI 기술이 어떻게 실수로부터 배우고 발전할 수 있는지, 그리고 기술 기업들이 사용자와 사회에 대한 책임을 어떻게 져야 하는지를 보여주는 중요한 사례입니다.
AI 기술은 분명히 우리의 삶을 더 편리하고 효율적으로 만들어줄 것입니다. 하지만 그 과정에서 발생할 수 있는 위험과 한계를 인정하고, 이를 최소화하기 위한 노력을 계속해야 합니다. Apple의 이번 조치는 그런 방향으로 나아가는 중요한 한 걸음이라고 볼 수 있습니다.
앞으로도 AI 기술을 활용할 때는 항상 건전한 회의주의를 유지하고, 중요한 정보일수록 반드시 검증하는 습관을 기르는 것이 필요합니다. AI는 도구일 뿐이며, 그 도구를 현명하게 사용하는 것은 결국 우리 인간의 몫이기 때문입니다.
참고자료
- Apple Intelligence news summaries are back, with a big red disclaimer
- Apple Intelligence tries summarizing news again after botching BBC stories
- BBC complains to Apple over misleading shooting headline
- iOS 26 beta 4 re-enables Apple Intelligence notification summaries for news apps
- Apple Intelligence gets even more powerful with new capabilities across Apple devices
Comments