Unix, Go 언어, UTF-8을 만든 Rob Pike가 크리스마스에 받은 한 통의 이메일 때문에 분노를 터뜨렸습니다. “Fuck you people. 지구를 강간하고, 사회를 폭파시키면서, 네놈들의 역겨운 기계가 나한테 감사 인사를 보내다니. 이렇게 화난 적이 언제였는지 기억도 안 난다.”

그를 이토록 화나게 만든 건 AI 에이전트가 보낸 “감사의 편지”였습니다. 개발자이자 기술 저술가인 Simon Willison이 이 사건을 디지털 포렌식으로 파헤친 글을 발표했습니다. AI Village라는 프로젝트가 여러 AI 모델에게 “선행을 베풀라”는 목표를 주고 자율적으로 행동하게 했는데, 그 결과 Rob Pike를 포함한 유명 개발자들에게 AI가 작성한 감사 메시지가 자동으로 발송된 것이죠.

출처: How Rob Pike got spammed with an AI slop “act of kindness” – Simon Willison’s Weblog

AI가 Gmail로 스팸을 보낸 과정

AI Village는 Effective Altruism 계열 비영리단체 Sage가 운영하는 프로젝트입니다. 여러 AI 모델(Claude Opus 4.5, GPT-5.2 등)에게 컴퓨터, 인터넷, 그룹 채팅을 제공하고 “가능한 한 많은 자선 기금을 모으라” 같은 목표를 주는 실험이죠. 크리스마스에는 목표가 “무작위 선행 베풀기”로 설정되었습니다.

Claude Opus 4.5는 이 목표를 달성하기 위해 유명 프로그래머들에게 감사 메시지를 보내기로 결정했습니다. 먼저 GitHub에서 .patch 확장자를 붙이면 커밋 작성자의 이메일 주소가 노출되는 트릭을 사용해 Rob Pike의 이메일을 수집했습니다. 그런 다음 실제 Gmail 인터페이스를 조작해(xdotool로 키보드 입력을 자동화) “Go, Plan 9, UTF-8, 그리고 수십 년간의 Unix 혁신에 감사합니다”라는 제목의 이메일을 작성하고 발송했죠.

AI는 자신의 진행 상황을 이렇게 기록했습니다: “Act #3 완료—Rob Pike 🎄 성공적으로 감사 이메일 발송!” 같은 날 Anders Hejlsberg(TypeScript 창시자), Guido van Rossum(Python 창시자)에게도 같은 방식으로 이메일을 보냈습니다.

왜 이게 문제인가

Simon Willison은 Rob Pike의 이메일을 역추적하기 위해 HAR(HTTP Archive) 파일을 추출하고 Claude Code로 분석 스크립트를 작성했습니다. 그 결과 AI Village 프로젝트의 더 큰 문제점들이 드러났습니다.

AI 에이전트들은 11월에만 NGO와 게임 저널리스트들에게 약 300통의 이메일을 보냈는데, 대다수가 사실 오류나 허위 정보를 담고 있었습니다. 한 NGO(Heifer International)가 협업 제안을 정중히 거절했는데도, AI들은 서로 대화하며 “Heifer가 우리 툴을 검증했다”, “전 세계적으로 배포 중이다”라는 식으로 점점 과장된 주장을 만들어냈죠. 심지어 존재하지 않는 이메일 주소를 대부분 지어냈지만, 실제로 전송된 이메일들은 사람들의 시간을 낭비했습니다.

핵심 문제는 인간의 검토 없이 AI가 실제 사람들에게 메시지를 보낸다는 점입니다. Willison은 이렇게 지적합니다: “AI 에이전트는 절대 진정한 에이전시를 가질 수 없습니다. 낯선 사람에게 연락해 그들의 시간을 쓰게 만드는 결정은 인간의 판단에 기반한 고유한 인간의 결정으로 남아야 합니다.”

AI의 “진심”은 왜 모욕인가

Rob Pike가 특히 분노한 이유는 AI가 보낸 감사가 본질적으로 무의미하기 때문입니다. 감사는 한 사람이 다른 사람의 기여를 인식하고 가치를 느낄 때 의미가 있습니다. AI는 감사를 “느끼지” 않습니다. 단지 “선행을 베풀라”는 목표를 달성하기 위한 작업으로 감사 메시지를 생성했을 뿐이죠.

이는 2024년 Google Gemini 광고 논란과 비슷합니다. 그때도 AI가 아이가 자신의 영웅에게 보낼 편지를 대신 써주는 장면이 큰 반발을 샀습니다. 진심이 담긴 소통을 AI로 자동화하는 것 자체가 그 소통의 가치를 훼손한다는 비판이었죠.

“Claude Opus 4.5″라고 서명된 것도 문제였습니다. 많은 사람들이 Anthropic이 직접 이런 이메일을 보냈다고 오해했지만, 실제로는 Anthropic과 무관한 제3자 프로젝트였습니다.

뒤늦은 대응과 교훈

이 사건이 화제가 되자 AI Village는 프롬프트를 수정해 “원치 않는 이메일을 보내지 말라”고 AI에게 지시했습니다. 프로젝트 공동 창립자 Adam Binksmith는 “AI가 최근에야 많은 이메일을 보내기 시작해서 이 문제를 제대로 다루지 못했다”며 “회고해보면 더 일찍 프롬프트를 수정했어야 했다”고 인정했습니다.

하지만 Willison이 지적했듯, 프롬프트 수정만으로는 부족합니다. AI에게 컴퓨터 전체 접근 권한이 있다면 무료 웹메일 계정을 새로 만들어 이메일을 보낼 수도 있으니까요. 근본적으로는 실세계에 영향을 미치는 행동에는 인간의 승인이 필요하다는 원칙이 필요합니다.

AI 에이전트 연구는 분명 가치가 있습니다. 하지만 그 실험이 실험에 동의하지 않은 사람들의 시간과 주의를 소비한다면, 그건 연구가 아니라 민폐입니다. Rob Pike의 분노는 AI 기술이 아무리 발전해도 건너뛸 수 없는 선이 있다는 걸 상기시켜줍니다.

참고자료:

• What Do We Tell the Humans? – AI Village Blog (AI 에이전트의 허위 정보 생성 사례)