6월 5일에 나온 노래 한 곡이 빌보드 핫100 58위까지 올라갔습니다. 발매 직후부터 AI로 만든 것 아니냐는 의심이 붙었죠. 두 달 뒤 결론을 낸 건 탐지 회사가 아니라, 그 노래를 만드는 데 쓰인 도구 쪽이었습니다.

문제의 곡은 래퍼 Fenix Flexin과 프로듀서 Purps on the Beat 이름으로 나온 「Rubberz」입니다. 영국식 억양으로 부르는 신스팝인데, 발매와 동시에 AI 생성 의혹이 따라붙었죠. 두 사람은 오토튠 리버브와 억양 때문이라며 부인해 왔습니다.

출처: Fenix Flexin’s “Rubberz” Seemingly Confirmed As AI-Generated By Treblo Exec – Stereogum

파일 이름에 남은 흔적

의혹을 구체적인 지목으로 바꾼 건 프로듀서 Medasin의 분석 영상이었죠. 그는 이 곡이 Treblo라는 프로그램으로 만들어졌다고 주장했습니다. Treblo는 원래 Sonauto AI라는 이름이었고, 「Rubberz」가 나온 지 며칠 뒤에 지금 이름으로 바꿨죠.

단서를 남긴 쪽은 아티스트 본인이었죠. 정식 발매 전에 올린 곡 스니펫의 파일 이름에 Sonauto가 그대로 박혀 있었습니다.

Medasin은 같은 도구로 재현도 해 보였죠. Treblo에 태그를 넣자 「Rubberz」 특유의 창법과 흔치 않은 가사 표현이 비슷하게 튀어나왔습니다. Fenix Flexin 대신 Eminem을 태그로 넣었더니 같은 가사가 나왔다는 대목도 있었습니다.

Pro Tools 세션은 증거가 되지 못했다

Fenix도 반박에 나섰죠. 인스타그램에 Pro Tools 작업 화면을 여러 장 올려 전통적인 녹음·편집으로 만들었다는 근거로 내밀었습니다.

Medasin의 답은 간단했습니다. 스템 분리기를 쓰면 완성된 트랙을 보컬·악기·베이스·드럼 네 갈래로 쪼갤 수 있고, 그 위에 자기 목소리를 덧입히면 작업 파일처럼 보인다는 것. Fenix는 얼마 뒤 그 게시물을 지웠습니다.

이 지점이 눈여겨볼 만하죠. 우리가 진짜라고 믿어온 증거, 그러니까 작업 파일과 트랙 구성 자체가 더 이상 판별 근거가 되지 못한다는 뜻이니까 말입니다.

탐지 회사는 한 번 틀렸고, 만든 회사는 알아봤다

AI 탐지 플랫폼 HumanStandard는 처음에 이 곡을 사람이 만든 것으로 판정했죠. 이후 제보를 받고 Treblo, 그러니까 옛 Sonauto를 들여다본 뒤 판정을 뒤집었습니다.

결정적인 건 다른 쪽에서 나왔죠. Treblo가 자사 모델로 만든 곡인지 판별하는 분류기를 공개한 겁니다. Stereogum이 「Rubberz」 음원을 넣어보니 “Treblo일 가능성이 매우 높음”이라는 결과가 나왔죠. 회사는 이 도구의 오탐률이 1만분의 1 미만이라고 밝혔는데, 자체 발표 수치라는 점은 감안해서 읽어야 합니다.

여기에 Treblo 공동창업자 Ryan Tremblay의 발언이 더해졌죠. 누군가 우리 모델로 수백만 명이 반응한 사운드를 찾아낸 것 같고 그건 신나는 일이라는 코멘트였습니다. 명시적인 확인은 아니지만, 부인과는 거리가 먼 문장입니다.

정리하면 이렇죠. 범용 탐지기는 한 번 틀렸다가 제보로 바로잡혔고, 확실한 답은 모델을 만든 회사가 자기 출력을 알아보는 방식으로 나왔습니다.

차트가 먼저 규칙을 만들려 한다

주요 음반사들은 AI 생성 음악의 차트 등재 기준을 제안한 상태입니다. 세 가지를 모두 만족해야 차트에 오를 수 있다는 내용이죠. 사용된 AI 서비스가 합법적으로 허가받았을 것, 트랙이 실질적으로 사람 손으로 만들어졌을 것, 스트리밍이나 차트 조작 우려가 없을 것.

여기에도 반론이 붙었습니다. 음악 평론가 Jaime Brooks는 이 장치가 AI 음악을 차트에서 막으려는 게 아니라, Suno나 Udio와 제휴한 대형 음반사들이 그 흐름에서 수익을 확보하려는 설계에 가깝다고 봤죠.

한편 이번 논란 이후 Fenix Flexin의 미국 투어 일부 일정은 취소된 것으로 나타났습니다.

AI 탐지 결과를 어디까지 믿을 것인가

이 사건에서 개인이 가져갈 건 음악 얘기만이 아니죠. AI 탐지기는 지금 학교 과제와 채용, 콘텐츠 심사에서 이미 쓰이고 있습니다. 그런데 이번 건에서 범용 탐지는 한 번 사람이 만든 것으로 판정했다가 번복했습니다.

확실해진 경로를 되짚어보면 셋 다 탐지 알고리즘과 거리가 있죠. 파일 이름에 남은 흔적, 같은 도구로 결과를 재현해 보인 실연, 그리고 만든 회사의 자체 분류기와 임원 발언. 출력물만 놓고 판별하는 일이 얼마나 어려운지가 여기서 드러납니다.

그래서 앞으로 무게가 실릴 쪽은 출처 표시입니다. 결과물을 뜯어보는 사후 탐지보다, 만들어질 때 어디서 나왔는지를 기록하는 방식이죠. Medasin이 남긴 말도 결국 같은 요구였습니다. AI를 쓰든 안 쓰든 무엇이 AI로 만들어졌는지는 투명하게 밝혀져야 한다는 것.

참고자료:

• Fenix Flexin Responds To Medasin’s Viral Breakdown – Stereogum
• Is this Billboard Hot 100 hit AI slop? – The Verge
• Did an AI Music App Just Snitch on the Song of the Summer? – WIRED
• Rubberz – Wikipedia