흰 가운을 입고 사무실 벽에 졸업장을 걸어놓은 의사가 카메라를 보며 신장병에 좋은 보충제를 추천합니다. 그럴듯해 보이지만, 이 의사는 실존 인물이 아닙니다. 목소리도, 얼굴도, 벽에 걸린 졸업장까지도 전부 AI가 만들어낸 겁니다.

뉴욕타임스가 수백 개의 페이스북·인스타그램 광고를 조사한 결과, 이런 AI 생성 “의사”와 건강 전문가가 검증되지 않은 의료 조언과 보충제를 대량으로 팔고 있다는 사실이 드러났습니다. Futurism이 이 조사 내용을 정리해 보도했습니다.

출처: Meta Is Letting Fake AI-Generated Doctors Sell Quack Cures on Its Platforms – Futurism (원 조사: 뉴욕타임스)

신뢰를 조성하는 공식이 있다

이런 광고에는 반복되는 패턴이 있습니다. AI 아바타는 의사나 동양 의학 전문가처럼 신뢰감을 주는 인물로 등장합니다. 미국 국기나 익숙한 교외 주택가를 배경으로 깔아 친근함을 더하기도 하죠.

의사로 등장하는 아바타는 대개 사무실을 배경으로 하고, 벽에는 가짜 졸업장이 선명하게 걸려 있습니다. 뉴욕타임스가 확인한 영상 중 하나는 그 졸업장에 “University of Degree”라는, 말이 안 되는 문구가 적혀 있었죠. 한 영상에서는 실험복을 입은 동양인 할머니 아바타가 “중국 의학에서는 이걸 낮추는 법을 수 세대 전부터 알고 있었다”고 말하기도 합니다. 평범한 이용자처럼 주차장이나 침실, 마트에서 보충제 후기를 찍는 아바타도 있는데, 이쪽은 사람이 찍는 인플루언서 콘텐츠와 거의 구분이 안 됩니다.

리콜된 보충제를 팔던 광고도 있었다

이런 광고가 만들어낸 주장은 대부분 과장이고, 일부는 위험하기까지 합니다. “Sculptique”라는 제품 광고는 자사 허브 보충제가 약보다 신장병 치료에 낫다고 주장하면서, 3기 신장병 환자 100명에게 제품을 줬다는 AI 생성 영상까지 만들어 창고에 모인 “수혜자”들이 보충제 병을 들어 올리는 장면을 보여줬습니다.

71세 파멜라 운드로우는 페이스북에서 Rosabella라는 업체의 모링가 보충제 광고를 보고 자가면역질환 증상 완화를 기대하며 구매했습니다. 몇 달 뒤 연방 규제당국은 이 제품 일부가 살모넬라균에 오염됐다며 리콜을 발표했습니다. 운드로우는 살모넬라 증상은 없었지만 보충제를 먹는 동안 오히려 건강이 나빠졌다고 말했습니다. “저희처럼 건강 문제가 있는 사람들을 노리는 거죠.” 그가 뉴욕타임스에 전한 말입니다.

하루 1,200개씩 찍어내는 광고 공장

이런 영상은 저절로 생기지 않습니다. 뉴욕타임스가 파악한 한 중국 업체는 브랜드의 틱톡 판매를 돕는 AI 영상을 제작하는데, 최대한 미국적으로 보이도록 설계합니다. 전술 장비를 걸친 남성 아바타가 물에서 물고기를 낚아 올린 뒤 손전등 겸용 장비를 꺼내 보이는 영상도 이 업체 작품입니다.

이 업체는 하루 1,200개의 AI 영상을 개당 10달러꼴로 만들어낸다고 밝혔습니다. AI 마케팅 총괄 비비 이는 건강 제품 광고에는 더 조심스러운 표현이 필요하다고 인정했습니다. “체중 감량”이라고 직접 말하는 대신 “체중 관리”라는 표현을 쓰는 식입니다.

TV였다면 불법이었을 광고들

뉴욕타임스는 이런 광고가 미국 TV에서 방영됐다면 불법이었을 거라고 지적합니다. 하지만 소셜미디어에서는 규제가 느슨하고 단속도 쉽지 않죠. 틱톡은 오해를 부르는 건강 주장을 하는 계정을 계속 차단하고 있다고 밝혔고, 메타는 AI 생성 콘텐츠에 라벨을 붙인다고 설명했습니다. 그럼에도 뉴욕타임스가 발견한 명백한 AI 건강 영상 일부는 지적을 받은 뒤에야 삭제됐습니다.

결국 이런 영상이 주로 겨냥하는 고령층 이용자는 스스로 진위를 판단해야 하는 상황에 놓입니다. 운드로우는 중국 의학을 언급하던 할머니 아바타 영상을 다시 보면서 이렇게 말했습니다. “AI라고 티가 나는 것도 봤거든요. 근데 이건 AI처럼 안 보여요.”