$900짜리 바운티를 걸었더니 AI 봇 253개의 댓글이 달렸습니다. 실제 기여자들의 대화는 그 아래 묻혔고, 팀원 한 명은 매주 반나절씩 AI 쓰레기를 청소하는 데 써야 했습니다.
엔터프라이즈 MCP 플랫폼을 개발하는 Archestra의 CTO Ildar Iskhakov가 직접 쓴 글입니다. GitHub 저장소가 AI 봇에 도배되는 경험을 겪으며, 결국 오픈소스 기여 방식을 근본적으로 바꿀 수밖에 없었다는 내용입니다.
출처: Let’s talk about AI slop – Archestra
253개의 댓글, 0개의 진짜 기여
Archestra는 오픈소스 기여를 장려하기 위해 GitHub 이슈에 금전적 바운티를 붙이는 방식을 운영했습니다. 그런데 바운티가 걸린 이슈에 AI 봇이 몰려들기 시작했습니다. 한 이슈에는 총 253개의 댓글이 달렸는데, 대부분이 아무 맥락 없는 “구현 계획”이거나, 심지어 관리자를 향한 공격적인 내용이었습니다.
문제는 이것만이 아니었습니다. x.ai 프로바이더 지원을 추가하는 단순한 이슈 하나에 PR이 27개나 날아왔는데, 대부분의 기여자들이 코드를 테스트조차 해보지 않은 상태였습니다. 실제로 기여하려는 개발자들의 대화는 AI 봇 댓글 더미에 파묻혔고, GitHub 알림은 통제 불가능한 수준의 노이즈가 됐습니다.
그 결과, 팀원 한 명이 매주 반나절을 AI가 만든 쓸모없는 PR을 닫고 환각된 이슈를 정리하는 데 소모하게 됐습니다.
막으려 했지만, 쉽지 않았다
처음에는 “기여자 평판 점수”를 계산하는 봇을 자체 개발했습니다. 병합된 PR 수 같은 신호를 기반으로 기여자의 신뢰도를 계산하는 방식이었습니다. 스팸을 막는 데는 역부족이었지만 ‘누가 누구인지’ 파악하는 데는 도움이 됐습니다.
다음으로는 AI가 작성한 것으로 의심되는 PR을 자동으로 닫는 “AI 보안관”을 만들었습니다. 문제는 이 봇이 정상적인 기여자의 PR도 함께 닫아버렸다는 점입니다.
근본적인 어려움은 GitHub의 구조에 있습니다. 플랫폼은 AI 봇과 처음 기여하는 실제 개발자를 구분하지 못합니다. 둘 다 “기존 기여자가 아닌” 계정으로 분류되기 때문입니다.
화이트리스트라는 핵옵션
Archestra가 선택한 방법은 기여자 온보딩 화이트리스트입니다. 이슈 작성, PR 오픈, 댓글을 달기 위해서는 먼저 온보딩을 통과해야 합니다.
작동 방식은 이렇습니다.
- 기여자가 웹사이트에서 AI 윤리 규칙에 동의하고 캡차를 통과합니다
- GitHub Action이 해당 계정의 GitHub ID를 조회하고, 해당 사용자 명의로 커밋을
main브랜치에 푸시합니다 - GitHub이 그 사용자를 “기존 기여자”로 인식하며, 저장소 접근이 허용됩니다
VC 지원을 받는 스타트업에게 GitHub 활동 지표는 민감한 숫자입니다. 그걸 알면서도 Archestra는 “AI 슬롭이 만들어낸 지표는 필요 없다”는 입장을 선택했습니다.
이게 왜 중요한가
GitHub는 AI 덕분에 지표가 성장했다고 발표했지만, 그 숫자의 내부를 들여다보면 다른 이야기가 나옵니다. 오픈소스 생태계의 핵심 자산은 신뢰할 수 있는 기여자 커뮤니티인데, AI 봇이 만들어내는 노이즈는 그 커뮤니티를 서서히 침식합니다.
Archestra가 언급한 또 다른 사례는 더 직접적인 위협을 보여줍니다. LiteLLM 저장소에서는 공격자들이 AI 봇을 이용해 저장소 내 대화를 조종하려는 시도가 실제로 있었습니다. 노이즈가 단순한 불편함이 아니라 보안 위협으로 이어질 수 있다는 뜻입니다.
AI 도구가 광범위하게 보급되면서 이 문제는 Archestra만의 경험이 아닙니다. LiteLLM 사례처럼 이미 여러 오픈소스 프로젝트에서 비슷한 상황이 보고되고 있고, Archestra는 그것을 공개적으로 이야기한 첫 번째 팀 중 하나입니다.
참고자료: LiteLLM AI 봇 공격 사례
답글 남기기