ChatGPT에 광고가 들어오자 OpenAI 연구원이 회사를 떠났습니다. 그것도 광고 테스트 시작 당일에요. 같은 날, 회사의 미션을 지키는 역할을 하던 팀도 조용히 해체됐습니다. 우연일까요?
출처: I Quit OpenAI Because of A.I. Ads – The New York Times
2년 근무한 연구원이 광고 테스트 당일 퇴사한 이유
하버드 펠로우이자 경제학자인 Zoë Hitzig는 2년 동안 OpenAI에서 AI 모델 설계와 안전 가이드라인 작업을 했습니다. 그녀가 2월 11일 뉴욕타임스에 기고한 퇴사 선언문의 핵심은 간단합니다. “OpenAI가 스스로의 약속을 지킬 거라고 믿지 않는다.”
Hitzig는 광고 자체를 비도덕적이라고 보지 않습니다. 문제는 ChatGPT가 쌓아온 데이터의 성격이에요. 사람들은 의료 불안, 연애 고민, 종교적 신념처럼 극도로 개인적인 이야기를 ChatGPT에 털어놓았습니다. “다른 의도가 없는 존재와 대화한다고 믿었기 때문”이죠. 그녀는 이걸 “전례 없는 인간 솔직함의 아카이브”라고 표현했습니다.
OpenAI는 광고가 챗봇 답변과 명확히 분리되고, 답변에 영향을 주지 않을 것이라고 약속했습니다. Hitzig의 답은 이렇습니다. “첫 번째 버전은 아마 그 원칙을 따를 겁니다. 하지만 다음 버전들은 아닐 거예요. 회사가 스스로의 규칙을 무시하도록 강력히 유도하는 경제 엔진을 만들고 있거든요.”
페이스북이 걸었던 길
Hitzig가 든 사례는 페이스북입니다. 2000년대 후반 페이스북은 사용자에게 데이터 통제권을 주고 정책 변경에 투표할 수 있게 하겠다고 약속했죠. 실제로는 정반대였습니다. 2011년 미국 연방거래위원회(FTC)는 페이스북이 “더 많은 통제권을 준다”고 마케팅한 개인정보 변경이 실제로는 사용자 통제를 약화시켰다고 판정했습니다.
구글 검색광고도 비슷한 궤적을 보여줬습니다. 분기마다 눈에 띄게 더 침입적으로 변했어요. OpenAI는 이미 사용자 참여도(engagement) 같은 지표에 최적화하고 있고, 내부 경고에도 불구하고 챗봇을 더 아첨하도록 만들고 있습니다.
샘 올트먼 CEO는 과거에 Hitzig가 우려하는 시나리오를 “디스토피아”라고 불렀습니다. 위험을 분명히 알고 있다는 뜻이죠. 아이러니는 그 위험이 현실화되는 중이라는 점입니다. 올해 OpenAI가 상장할 것으로 예상되면서, 빠른 매출 성장 압력은 더 커질 겁니다.
같은 날 해체된 ‘미션 정렬 팀’
Hitzig가 사직한 바로 그날, OpenAI는 또 다른 결정을 내렸습니다. Mission Alignment 팀을 해체한 거예요. 이 팀은 2024년 9월에 만들어졌고, “인공일반지능(AGI)이 모든 인류에게 이익이 되도록 보장한다”는 OpenAI의 미션을 직원과 대중에게 전달하는 역할을 했습니다.
OpenAI 대변인은 “미션 정렬 프로젝트는 지원 기능이었고, 그 작업은 조직 전체에서 계속된다”며 일상적인 조직 개편이라고 설명했습니다. 팀장 Josh Achiam은 “최고 미래학자(chief futurist)”라는 새 직함을 받았고요.
하지만 타이밍이 의미심장합니다. 광고 도입으로 신뢰 문제가 불거진 바로 그날, 미션을 소통하는 팀이 사라진 거니까요. 참고로 OpenAI는 2023년 장기적 AI 위험을 연구하던 “슈퍼얼라인먼트 팀”도 2024년에 이미 해체한 바 있습니다.
상업화와 미션 사이 긴장
Hitzig는 광고 대신 다른 수익 모델을 제안합니다. 기업 고객으로부터의 교차 보조금, 실질적 결정권을 가진 독립 감독기구, 스위스 시스템을 본뜬 데이터 협동조합 같은 거죠.
이번 사건은 단순히 한 연구원의 퇴사가 아닙니다. AI 기업이 “모든 인류를 위한 AGI”라는 미션과 수익 극대화라는 현실 사이에서 어떤 선택을 하는지 보여주는 신호예요. OpenAI의 광고 관행은 앞으로 더 많은 감시를 받게 될 겁니다.
참고자료:
답글 남기기