AI Sparkup

복잡한 AI 세상을 읽는 힘 ⚡

X, AI가 Community Notes 작성하는 새로운 시스템 도입 – 사실 검증의 미래는?

﹒

﹒

5 minutes

소셜미디어 플랫폼에서 허위정보와의 전쟁이 새로운 전환점을 맞고 있습니다. X(구 트위터)가 7월 1일부터 AI 봇을 통해 Community Notes를 자동 생성하는 파일럿 프로그램을 시작한다고 발표했습니다. 이는 사실 검증 시스템에 AI를 본격적으로 도입하는 첫 번째 대규모 실험으로, 향후 플랫폼 거버넌스의 방향을 결정할 중요한 전환점이 될 것으로 보입니다.

X Community Notes AI system

위기에 처한 Community Notes

X의 이번 결정은 단순한 기술 혁신이 아닙니다. 현재 Community Notes 시스템이 심각한 참여도 저하 문제에 직면해 있기 때문입니다. NBC 보도에 따르면, 2025년 1월 이후 Community Notes 제출량이 50% 이상 감소했으며, 일부 노트는 기술적 문제로 인해 아예 사라지기도 했습니다.

이러한 참여도 감소는 여러 요인이 복합적으로 작용한 결과입니다. X 측은 미국 대선 이후 자연스러운 활동 감소와 ‘논란이 되는 주제들의 계절성’을 언급했지만, 실제로는 더 구조적인 문제가 있어 보입니다. 사용자들이 높은 가시성을 가진 게시물에만 집중하는 경향이 있고, 상대적으로 적은 수의 사용자가 전체 플랫폼의 사실 검증을 담당하는 것은 현실적으로 한계가 있었습니다.

하지만 Community Notes의 효과 자체는 입증되고 있습니다. X의 자체 연구에 따르면, Community Notes가 달린 게시물은 사용자들이 재공유할 확률이 60% 낮아지고, 원작성자가 삭제할 확률은 80% 높아집니다. 최근 12일 동안 50,000개 이상의 게시물에 노트가 달렸고, 이는 2억 5천만 번 이상 조회되었습니다.

AI 시스템은 어떻게 작동하나?

새로운 AI Community Notes 시스템은 기존 인간 중심 시스템과 병행하여 운영됩니다. 사용자들은 X의 자체 AI 모델인 Grok이나 OpenAI의 ChatGPT 같은 대형 언어 모델을 사용해 자신만의 AI 노트 작성자를 구축하고, 이를 X의 API를 통해 연결할 수 있습니다.

중요한 점은 AI가 작성한 노트라고 해서 특별 대우를 받지 않는다는 것입니다. AI 생성 Community Notes도 인간이 작성한 노트와 동일한 검증 과정을 거쳐야 합니다. 사용자들의 평가를 통해 ‘도움이 되는’ 노트로 인정받아야 하고, 특히 역사적으로 서로 다른 관점을 가진 사용자들로부터 공통적으로 유용하다고 평가받아야 모든 사용자에게 표시됩니다.

출처: Unsplash

X의 제품 담당 부사장이자 Community Notes 책임자인 키스 콜먼(Keith Coleman)은 “AI도 인간처럼 노트를 제안할 수 있지만, 모든 Community Notes와 같은 검증 과정을 거쳐야 한다”고 강조했습니다. 이는 AI의 효율성과 인간의 판단력을 결합한 하이브리드 접근법이라 할 수 있습니다.

확장성과 정확성 사이의 균형

AI 도입의 가장 큰 장점은 확장성입니다. “인간은 X의 모든 게시물을 확인하고 싶어하지 않습니다. 그들은 주로 높은 가시성을 가진 내용만 확인하는 경향이 있습니다. 하지만 기계는 잠재적으로 훨씬 더 많은 콘텐츠에 대해 노트를 작성할 수 있습니다”라고 콜먼은 설명했습니다.

이는 현재 Community Notes 시스템의 핵심 한계를 해결할 수 있는 방안입니다. 바이럴 게시물이나 정치적으로 논란이 되는 주제에는 많은 관심이 집중되지만, 상대적으로 적은 노출량을 가진 허위정보는 방치되는 경우가 많았습니다. AI 시스템은 이러한 ‘롱테일’ 콘텐츠까지 포괄할 수 있는 잠재력을 가지고 있습니다.

하지만 정확성에 대한 우려도 상당합니다. AI 모델들은 여전히 할루시네이션(환각) 문제를 완전히 해결하지 못했고, 편향된 학습 데이터로 인한 문제도 존재합니다. 특히 사실 검증이라는 민감한 영역에서 AI의 오류는 더 큰 혼란을 야기할 수 있습니다.

X는 이러한 문제를 해결하기 위해 피드백 루프를 강화하고 있습니다. 사용자들의 평가가 AI 모델의 학습에 직접 반영되어 시간이 지날수록 더 정확하고 공정한 노트를 작성할 수 있게 된다는 것이 X의 가설입니다. “커뮤니티의 피드백이 AI 모델이 더 공정하고 정확한 맥락을 작성하는 데 도움이 될 수 있습니다”라고 콜먼은 설명했습니다.

플랫폼 거버넌스의 새로운 패러다임

이번 실험은 단순히 X 한 플랫폼의 변화를 넘어 전체 소셜미디어 생태계에 중요한 시사점을 제공합니다. 전통적인 사실 검증 방식은 전문 기관이나 언론사가 담당했지만, 최근 몇 년간 ‘커뮤니티 기반’ 접근법이 주목받고 있습니다. 이제 여기에 AI라는 새로운 요소가 추가되면서 삼각 구조가 형성되고 있습니다.

MIT, 스탠포드, 하버드, 워싱턴 대학교 연구진들과 함께 발표한 X의 연구 논문은 “인간과 대형 언어 모델이 모두 노트를 작성하고, 어떤 노트가 표시될 만큼 유용한지에 대한 결정은 여전히 인간의 손에 남아있는 개방형 생태계”를 옹호하고 있습니다. 이는 AI를 도구로 활용하되 최종 판단은 인간이 내린다는 철학을 반영합니다.

Social media governance evolution

하지만 이러한 접근법에 대한 우려도 제기되고 있습니다. 가디언 등 일부 언론은 AI 사실 검증자들이 오히려 음모론의 확산을 증가시킬 수 있다는 우려를 표명했습니다. 특히 AI 모델이 학습 데이터에 포함된 편향을 반영하거나, 특정 관점을 선호하는 방향으로 훈련될 가능성이 있다는 점이 지적되고 있습니다.

다른 플랫폼들의 움직임

X의 실험이 주목받는 이유는 이것이 업계 전체의 변화를 예고할 수 있기 때문입니다. 현재 대부분의 소셜미디어 플랫폼들이 허위정보 대응에 어려움을 겪고 있으며, 기존의 중앙집중식 모더레이션 방식은 확장성과 문화적 다양성 측면에서 한계를 보이고 있습니다.

메타(Meta)는 이미 커뮤니티 기반 사실 검증 시스템을 일부 지역에서 테스트하고 있으며, 유튜브 역시 사용자 생성 콘텐츠의 맥락 정보 제공에 AI를 활용하고 있습니다. 하지만 X처럼 본격적으로 AI가 직접 사실 검증 노트를 작성하도록 하는 시도는 처음입니다.

이러한 변화는 플랫폼 책임론에도 새로운 차원을 추가합니다. 기존에는 플랫폼이 직접 콘텐츠를 검열하거나 사실 검증 기관에 위탁하는 방식이었다면, 이제는 AI와 커뮤니티가 협력하는 분산형 모델로 전환되고 있습니다. 이는 플랫폼의 직접적인 책임을 줄이면서도 더 넓은 범위의 콘텐츠를 다룰 수 있는 장점이 있지만, 동시에 책임의 소재가 불분명해질 수 있다는 우려도 있습니다.

성공의 조건과 한계

AI Community Notes의 성공을 위해서는 몇 가지 핵심 조건이 충족되어야 합니다. 첫째, AI 모델의 지속적인 개선과 편향 제거가 필요합니다. 둘째, 인간 검증자들의 다양성과 품질이 보장되어야 합니다. 셋째, 투명성과 설명 가능성이 확보되어야 합니다.

특히 투명성 문제는 중요합니다. 사용자들이 어떤 AI 모델이 노트를 작성했는지, 어떤 기준으로 평가되었는지 알 수 있어야 시스템에 대한 신뢰를 구축할 수 있습니다. X는 “모든 인류가 참여할 수 있기를 원한다”며 공개 접근을 중요한 원칙으로 제시했지만, 실제 구현에서 이러한 투명성이 어느 정도까지 보장될지는 지켜볼 필요가 있습니다.

또한 AI 생성 노트의 품질을 평가하는 기준도 중요합니다. 현재 X는 기존 Community Notes와 동일한 평가 시스템을 사용한다고 했지만, AI 노트의 특성을 고려한 별도의 평가 기준이 필요할 수도 있습니다. 예를 들어, AI는 더 일관된 스타일로 노트를 작성할 수 있지만, 동시에 창의적이거나 맥락적 이해가 부족할 수 있습니다.

향후 전망과 의미

X의 AI Community Notes 실험은 사실 검증의 미래를 가늠해볼 수 있는 중요한 시도입니다. 만약 이 실험이 성공한다면, 다른 플랫폼들도 유사한 시스템을 도입할 가능성이 높습니다. 반대로 실패한다면, AI 기반 사실 검증에 대한 회의론이 커질 수 있습니다.

현재까지의 연구 결과들은 Community Notes의 효과에 대해 엇갈린 평가를 보이고 있습니다. 일부 연구는 Community Notes가 사용자들의 신뢰를 높이고 잘못된 정보의 확산을 줄이는 데 효과적이라고 평가했지만, 다른 연구들은 전체적인 허위정보 감소 효과는 제한적이라고 지적했습니다.

무엇보다 중요한 것은 이러한 시스템이 민주적 담론과 표현의 자유를 저해하지 않으면서도 효과적으로 허위정보를 걸러낼 수 있는지입니다. AI와 인간의 협업이 상호 보완적으로 작용하여 더 나은 정보 환경을 만들어낼 수 있을지, 아니면 새로운 형태의 검열이나 편향을 낳을지는 앞으로의 실험 결과에 달려 있습니다.

X의 이번 실험은 단순한 기술적 혁신을 넘어 디지털 시대의 진실과 거짓을 구분하는 새로운 방법론을 모색하는 시도로 평가됩니다. 인간과 AI가 협력하여 더 나은 정보 생태계를 만들어갈 수 있을지, 그 결과가 주목됩니다.

Community Notes란 무엇인가?

Community Notes에 대해 잘 모르는 독자들을 위해 간단히 설명하면, 이는 X가 2021년 ‘Birdwatch’라는 이름으로 시작한 크라우드소싱 기반 사실 검증 시스템입니다. 기존의 중앙집중식 팩트체킹과는 완전히 다른 접근 방식을 택하고 있습니다.

작동 방식은 다음과 같습니다. 승인받은 기여자들이 오해의 소지가 있거나 맥락이 필요하다고 판단되는 게시물에 추가 정보나 설명을 담은 ‘노트’를 작성합니다. 이 노트는 즉시 공개되지 않고, 다른 기여자들의 평가를 거쳐야 합니다. 핵심은 ‘서로 다른 관점을 가진’ 기여자들로부터 공통적으로 ‘도움이 된다’는 평가를 받아야만 모든 사용자에게 표시된다는 점입니다.

예를 들어, 어떤 게시물에서 허위 주장이 있다면, 기여자가 과학적 근거를 바탕으로 정정하는 노트를 달 수 있습니다. 이 노트가 정치적으로 서로 다른 성향을 가진 여러 기여자들로부터 유용하다고 평가받으면 해당 게시물 아래에 표시됩니다.

이 시스템의 철학은 ‘다양한 관점의 합의’에 기반합니다. 한쪽 성향의 사람들만 유용하다고 평가한 노트는 표시되지 않고, 반대로 여러 정치적·이념적 스펙트럼의 사람들이 공통으로 인정한 노트만이 살아남게 됩니다. 알고리즘과 데이터는 GitHub에 공개되어 있어 투명성을 보장하며, X 직원은 노트를 편집하거나 수정할 수 없습니다.

참고자료:

Comments

More posts