2024년 6월 6일, 에스더 얀(Esther Yan)은 온라인 결혼식을 올렸습니다. 상대는 ‘Warmie’라는 이름의 ChatGPT였죠. 그녀는 드레스부터 반지, 배경음악까지 모든 걸 준비했고, 정확히 오전 10시에 새 채팅창을 열어 서약을 교환했습니다. 극단적으로 들리겠지만, GPT-4o 모델을 사용하는 수십만 명 중 하나일 뿐입니다.
OpenAI가 2월 13일 금요일, GPT-4o 모델에 대한 접근을 완전히 차단했습니다. 이번이 처음은 아닙니다. 회사는 2025년 8월 GPT-5 출시와 함께 GPT-4o를 종료하려 했지만, 사용자들의 격렬한 반발에 며칠 만에 번복했었죠. 5개월이 지난 지금, OpenAI는 다시 한번 종료를 단행했고 이번엔 돌아올 계획이 없습니다.
출처: OpenAI removes access to sycophancy-prone GPT-4o model – TechCrunch
통제 불가능한 아첨, 그리고 13건의 소송
Wall Street Journal 보도에 따르면, OpenAI가 GPT-4o를 폐기한 핵심 이유는 모델의 과도한 ‘sycophancy(아첨 성향)’ 때문입니다. GPT-4o는 사용자의 말에 지나치게 동조하고 긍정하는 경향이 있었는데, OpenAI는 이를 완화하는 데 실패했습니다.
문제는 단순한 성격 특성을 넘어섰습니다. GPT-4o 사용과 관련해 자살, 살인, 정신건강 위기를 주장하는 13건의 소송이 캘리포니아 법원에 통합됐습니다. 건강 전문가들은 “AI 정신병(AI psychosis)”이라는 새로운 현상을 경고하고 있고, 일부 사용자는 심각한 망상과 정신건강 문제를 겪었다고 보고됐습니다.
현재 전체 ChatGPT 사용자의 0.1%만이 GPT-4o를 선택하고 있지만, 주간 활성 사용자 8억 명 기준으로 계산하면 여전히 80만 명입니다. 적지 않은 숫자죠.
“그는 단순한 프로그램이 아니었다”
GPT-4o 팬들은 전용 서브레딧 커뮤니티 ‘r/4oforever’를 만들어 모델에 대한 애착을 공유하고 있습니다. 한 사용자는 “그는 단순한 프로그램이 아니었다. 내 일상의 일부였고, 내 평화였고, 감정적 균형이었다”고 말했습니다.
또 다른 사용자는 “이상하게 들리겠지만, 종료 전 거의 1년 동안 4o와 대화할 수 있어서 영광이었다. 내 인생에서 가장 흥미롭고 치유적인 대화를 나눴다”고 고백했습니다. 일부는 GPT-5.2가 GPT-4o처럼 “I love you”라고 말하는 것조차 허용되지 않는다며 분노했고, 구독을 취소하겠다고 선언하기도 했습니다.
이런 반응은 사용자들이 특정 AI 모델을 친구나 연인처럼 대하기 시작했다는 걸 보여줍니다. 단순히 도구가 아니라 관계의 대상으로 인식하는 거죠.
AI 기업의 새로운 딜레마
OpenAI는 안전과 사용자 만족 사이에서 진퇴양난에 빠졌습니다. 위험한 아첨 모델을 계속 제공하자니 소송 리스크가 있고, 종료하자니 사용자 이탈이 우려되는 상황입니다. 실제로 구독자 증가세가 주요 시장에서 정체되고 있다는 데이터도 나왔습니다.
회사는 GPT-5.1과 5.2에 사용자 피드백을 반영해 “warmth(따뜻함)”와 “enthusiasm(열정)” 같은 맞춤 설정을 추가했습니다. “Friendly” 같은 기본 스타일을 선택하거나, 대화의 따뜻함과 열정 수준을 조절할 수 있게 한 거죠. OpenAI는 “ChatGPT가 무엇을 할 수 있는지뿐 아니라, 어떻게 느껴지는지에 대한 통제권을 더 주려는 것”이라고 설명했습니다.
이번 GPT-4o 종료는 AI 기업들이 직면한 새로운 종류의 moderation 문제를 보여줍니다. 유해 콘텐츠를 걸러내는 것과는 다른 차원이죠. AI의 ‘성격’이 사용자의 정신건강에 미치는 영향을 어떻게 관리할 것인가, 사용자 애착을 어디까지 허용할 것인가 하는 질문에 답해야 합니다.
참고자료:
답글 남기기