AI가 그린 초상화 한 장에는 누구의 그림이 녹아든 걸까요. 저작권 소송이 매달린 이 질문에, MIT 연구진은 ‘답이 아예 없을 때가 많다’는 뜻밖의 결론을 내놓았습니다.

MIT 컴퓨터과학·인공지능연구소(CSAIL)의 Zheng Dai와 David Gifford 교수 연구팀이 이 문제를 파고들었습니다. 대규모 데이터로 학습한 생성 모델에서는, 특정 이미지 하나가 특정 결과물에 남긴 흔적을 되짚는 일이 원리적으로 불가능할 때가 많다는 겁니다. 연구는 국제 학술지 Nature Communications에 공개됐습니다.

출처: When AI art has no author: Study finds generated images often can’t be traced to training data – MIT News

데이터 한 장을 빼도 결과가 그대로다

연구팀이 이름 붙인 현상은 ‘어트리뷰션 소멸(attribution decay)’입니다. 모델이 학습하는 데이터가 많아질수록, 개별 학습 사례 하나가 특정 결과에 미치는 영향은 점점 옅어진다는 뜻이죠. 직관과는 반대로 들립니다.

규모가 충분히 커지면 이런 일이 벌어집니다. 학습 데이터에서 이미지 한 장을 빼도, 특정 작가의 그림을 전부 빼도, 특정 인물의 사진을 모조리 빼도 생성 결과물은 그대로였죠. 무언가를 빼도 아무것도 변하지 않는다면, 그 데이터가 결과에 책임이 있다고 보기는 어렵습니다.

연구를 이끈 Zheng Dai의 설명은 이렇습니다. 데이터 한 조각을 지웠는데 모델의 출력이 그대로라면, 그 조각은 출력에 영향을 주지 않은 것. 이걸 나머지 모든 데이터에 하나씩 적용해도 출력이 그대로라면, 어느 하나에 결과를 돌리는 것도 무의미해집니다.

‘전부 다시 학습시켜 보는’ 문제

이 주장을 실제로 증명하려면 까다로운 가정을 확인해야 합니다. 이 모델이 특정 이미지를 한 번도 본 적 없었다면 무엇을 만들어냈을까. 정직하게 답하려면 그 이미지를 빼고 모델을 처음부터 다시 학습시켜야 하죠. 다음 이미지, 또 다음 이미지에 대해서도 똑같이 반복해야 합니다.

학습 사례가 수백만 장이면 이 계산은 금세 감당 불가능해집니다. 기존 연구들이 실제 삭제 대신 ‘이 데이터가 얼마나 영향을 줬을지’ 추정하는 근사치에 기대 온 이유죠.

연구팀은 우회로를 직접 설계했습니다. ‘디퓨전 앙상블(diffusion ensemble)’이라 부르는 구조인데, 하나의 거대한 모델 대신 작은 구성요소 여러 개를 모아 만든 겁니다. 이 구조 덕분에 데이터를 실제로 지우면서도 전체를 처음부터 재학습하는 비용을 피할 수 있습니다.

기존 방법이 전부 근사치였다면, 이건 실제로 입력을 지우고 그 입력의 영향까지 모두 제거해 결과가 바뀌지 않음을 보이는 첫 ‘정확한’ 방법이라는 게 연구팀의 설명입니다.

그래서 창작자에게 무엇을 뜻하나

이 결과는 저작권과 크레딧을 둘러싼 논쟁의 한복판에 떨어집니다. 작가는 자기 그림이 학습에 쓰였으니 크레딧을 원하고, 기업은 명확한 기준을 원하고, 정책 입안자는 책임을 물을 방법을 찾죠. 그런데 대규모 모델에서는 ‘이 그림이 저 결과를 만들었다’는 연결 자체가 사라질 수 있다는 겁니다.

다만 이 발견을 ‘그러니 학습 데이터는 아무 문제 없다’로 읽으면 곤란합니다. 연구가 말하는 건 어디까지나 충분히 큰 규모에서 개별 사례의 기여를 추적하기 어렵다는 사실 하나죠. 데이터를 어떻게 모으고 쓸지를 둘러싼 윤리적·법적 문제가 사라진다는 의미는 결코 아닙니다.

참고자료: Dai & Gifford, 어트리뷰션 소멸 연구 원논문 (Nature Communications)