AI로 만든 이미지가 SNS를 가득 채우는 지금, 이걸 진짜라고 믿는 사람도, 가짜라고 의심하는 사람도 모두 늘고 있습니다. 문제는 그 판단을 뒷받침할 방법이 마땅치 않았다는 겁니다.

OpenAI가 AI 생성 콘텐츠의 출처를 증명하는 새로운 시스템을 발표했습니다. 한 가지 기술이 아니라, 서로 다른 층위에서 작동하는 세 가지 방식을 동시에 도입했습니다. C2PA 표준 적합성 인증, Google DeepMind의 SynthID 워터마킹, 그리고 일반인이 직접 쓸 수 있는 공개 검증 툴입니다.

출처: Advancing content provenance for a safer, more transparent AI ecosystem – OpenAI

C2PA: 출처 정보가 플랫폼을 넘어 살아남으려면

C2PA(Coalition for Content Provenance and Authenticity)는 콘텐츠 출처 정보를 담는 개방형 기술 표준입니다. 이미지나 영상 파일 안에 메타데이터와 암호화 서명을 함께 넣어, “누가 만들었는지”, “어떻게 편집됐는지”를 파일 자체에 기록합니다.

OpenAI는 2024년부터 DALL·E 3, ImageGen, Sora에 C2PA 기반 Content Credentials를 붙여왔습니다. 이번에 한 발 더 나아가 ‘C2PA 적합 생성자 제품(Conforming Generator Product)’ 인증을 받았습니다. 이 인증의 핵심은 다른 플랫폼들이 OpenAI의 출처 정보를 신뢰하고 읽고 전달할 수 있는 공통 언어가 생긴다는 점입니다. 콘텐츠가 다른 플랫폼으로 옮겨가도 출처 정보가 유지될 가능성이 높아집니다.

SynthID: 메타데이터가 사라져도 남는 흔적

메타데이터에는 약점이 있습니다. 스크린샷을 찍거나, 파일 형식을 바꾸거나, 단순히 다운로드-업로드를 반복하는 것만으로도 사라질 수 있습니다. 그래서 OpenAI는 두 번째 층위로 Google DeepMind의 SynthID 워터마킹을 도입했습니다.

SynthID는 이미지 픽셀에 사람 눈에 보이지 않는 신호를 심습니다. 이 신호는 웬만한 변환에서도 살아남도록 설계됐습니다. ChatGPT, Codex, OpenAI API를 통해 생성된 이미지부터 적용됩니다. C2PA 메타데이터가 더 많은 정보를 담을 수 있고, SynthID 워터마크는 더 강한 내구성을 갖습니다. 두 방식이 서로의 약점을 보완하는 구조입니다.

공개 검증 툴: 직접 확인해볼 수 있게

세 번째는 일반 사용자를 위한 검증 툴 프리뷰입니다. openai.com/verify에서 이미지를 업로드하면, OpenAI 도구로 생성된 것인지를 SynthID 신호와 C2PA 메타데이터를 함께 분석해 알려줍니다.

다만 OpenAI는 신중한 태도를 유지합니다. 워터마크나 메타데이터가 감지되지 않는 경우, “OpenAI 도구로 만든 것이 아니다”라고 단정 짓지 않습니다. 출처 신호가 없다는 건 제거됐을 가능성도 있기 때문입니다. 현재는 OpenAI 생성 콘텐츠만 지원하지만, 향후 다른 플랫폼으로도 범위를 넓힐 계획입니다.

단일 기술이 아닌 생태계 전략

이번 발표가 흥미로운 이유는 기술 하나를 내놓은 게 아니라는 점입니다. 표준(C2PA) + 워터마킹(SynthID) + 검증 인터페이스가 하나의 레이어드 시스템으로 엮였고, Google DeepMind와의 협력이 포함된다는 점에서 업계 차원의 공동 대응에 가깝습니다.

AI 생성 콘텐츠가 정보 생태계 전반에 퍼지는 속도를 감안하면, 출처 증명은 단순한 기술 문제를 넘어 신뢰 인프라의 문제가 됩니다. OpenAI가 표준 적합성 인증을 받고 타사 기술을 통합하는 방식을 택한 건, 자체 솔루션보다 생태계 전체가 움직여야 한다는 판단으로 읽힙니다.