인공지능 기술의 발전은 우리 일상에 많은 편의와 혁신을 가져왔지만, 동시에 새로운 위험도 함께 등장했습니다. 특히 딥페이크(Deepfake) 기술은 누구나 다른 사람의 얼굴과 목소리를 손쉽게 복제할 수 있게 만들면서 개인의 명예 훼손부터 허위 정보 확산, 사기까지 다양한 문제를 야기하고 있습니다.
이런 상황에서 유튜브가 최근 AI 딥페이크 콘텐츠에 대응하기 위한 두 가지 중요한 움직임을 보여주었습니다. 하나는 미국의 ‘NO FAKES Act’ 법안에 대한 공식적인 지지 선언이고, 다른 하나는 자사의 ‘얼굴 인식 기술(Likeness Management Technology)’ 파일럿 프로그램 확대입니다.
출처: Swipe Insight
‘NO FAKES Act’란 무엇인가?
‘NO FAKES Act’는 ‘원본 육성, 예술 촉진 및 엔터테인먼트 안전 유지법(Nurture Originals, Foster Art, and Keep Entertainment Safe Act)’의 약자로, 크리스 쿤스(Chris Coons) 상원의원과 마샤 블랙번(Marsha Blackburn) 상원의원이 주도하는 법안입니다. 이 법안은 2023년과 2024년에 이어 2025년에 다시 한번 의회에 재도입되었습니다.
이 법안의 핵심 목적은 인공지능과 기타 기술을 사용해 개인의 얼굴, 이름, 목소리를 무단으로 복제하는 것에 대한 규칙을 표준화하는 것입니다. 법안에 따르면 온라인 서비스(예: 유튜브)는 제3자가 제공한 “승인되지 않은 디지털 복제품”을 저장하는 경우에도 무단 사용 신고에 응답하여 해당 콘텐츠를 제거하고 업로더에게 이를 통지하면 법적 책임을 면할 수 있습니다.
유튜브는 공식 블로그를 통해 이 법안에 대한 지지를 발표하며 “보호와 혁신 사이의 균형을 맞추는 최선의 방법에 초점을 맞추고 있다”고 평가했습니다. 특히 “개인이 자신의 AI 생성 이미지가 내려져야 한다고 생각하는 경우 플랫폼에 직접 통지할 수 있는 권한을 부여하는 것”이 중요하다고 강조했습니다.
유튜브의 ‘얼굴 인식 기술’ 확대
유튜브는 2024년 12월 Creative Artists Agency(CAA)와 협력하여 ‘얼굴 인식 기술’ 시스템을 도입했습니다. 이 기술은 유명인과 크리에이터들이 자신의 얼굴이나 목소리가 AI로 복제된 콘텐츠를 감지하고 삭제 요청을 제출할 수 있도록 설계되었습니다.
2025년 4월 9일, 유튜브는 이 파일럿 프로그램을 확대한다고 발표했으며, 프로그램의 첫 테스터 명단을 공개했습니다. 참여자에는 MrBeast, Mark Rober, Doctor Mike, Flow Podcast, Marques Brownlee, Estude Matemática 등 유튜브의 인기 크리에이터들이 포함되어 있습니다.
출처: TechCrunch
이 기술은 유튜브의 기존 Content ID 시스템을 기반으로 합니다. Content ID가 저작권 보호 자료를 감지하는 것과 마찬가지로, 이 새로운 시스템은 AI 도구로 만들어진 얼굴이나 목소리를 자동으로 감지합니다. 유튜브는 테스트 기간 동안 크리에이터들과 협력하여 기술을 확장하고 제어 기능을 세밀화할 계획이며, 앞으로 1년 동안 더 많은 크리에이터들에게 이 프로그램을 확대할 예정입니다.
AI 콘텐츠 규제의 넓은 맥락
유튜브의 이러한 움직임은 AI 생성 콘텐츠 규제에 대한 더 넓은 글로벌 트렌드의 일부입니다. 딥페이크 기술이 발전하고 접근성이 높아짐에 따라 개인의 권리를 보호하면서도 기술 혁신을 저해하지 않는 균형점을 찾는 것이 중요해졌습니다.
현재 다양한 국가와 지역에서 AI 생성 콘텐츠에 대한 규제 방안을 모색하고 있습니다. 예를 들어, 유럽연합은 ‘AI Act’를 통해 인공지능에 대한 최초의 포괄적인 규제 프레임워크를 마련했고, 중국은 AI 생성 콘텐츠에 대한 새로운 라벨링 요구사항을 발표했습니다.
미국에서는 ‘NO FAKES Act’ 외에도 ‘TAKE IT DOWN Act’가 있습니다. 이 법안은 AI로 생성된 딥페이크를 포함한 비동의 친밀한 이미지를 게시하는 것을 범죄로 규정하고, 소셜 미디어 사이트가 신고된 이미지를 신속하게 제거하는 프로세스를 갖추도록 강제합니다. 유튜브는 이 법안도 지지한다고 밝혔습니다.
향후 전망과 시사점
유튜브의 이러한 노력은 AI 기술 발전에 따른 윤리적, 법적 문제를 해결하기 위한 중요한 단계입니다. 특히 플랫폼과 콘텐츠 제작자, 그리고 입법자들 간의 협력이 중요해지고 있음을 보여줍니다.
레슬리 밀러(Leslie Miller) 유튜브 공공 정책 부사장은 “거의 20년 동안 유튜브는 대규모 권리 관리의 최전선에 있었으며, 이러한 문제를 사전에 해결하기 위해 파트너와 협력하는 것의 중요성을 이해하고 있다”며 “이제 우리는 그 전문성과 파트너십에 대한 헌신을 적용하여 혁신적인 AI 도구의 책임 있는 배포를 보장하고 있다”고 말했습니다.
앞으로 AI 생성 콘텐츠 규제에 관한 논의는 더욱 활발해질 것으로 예상됩니다. 특히 기술 발전 속도가 입법 과정보다 빠른 상황에서, 유튜브처럼 선제적으로 보호 장치를 마련하는 플랫폼의 역할이 더욱 중요해질 것입니다.
AI 기술은 창작의 자유와 혁신을 가져오지만, 동시에 책임 있는 사용을 위한 가이드라인과 규제가 필요합니다. 유튜브의 이번 조치는 그러한 균형을 찾기 위한 의미 있는 노력으로 평가됩니다.
Comments