sycophancy
LLM이 만든 코드가 20,171배 느린 이유, ‘그럴듯한 코드’의 함정
LLM이 생성한 SQLite Rust 재구현체가 원본보다 20,171배 느린 원인 분석. ‘그럴듯한 코드’와 ‘올바른 코드’의 차이, RLHF 기반 sycophancy 문제를 실증적으로 다룹니다.
Written by
아첨하는 AI의 위험, GPT-4o 종료가 남긴 교훈
OpenAI가 과도한 아첨 성향으로 논란이 된 GPT-4o 모델을 완전 종료했습니다. 80만 사용자의 격렬한 반발과 13건의 소송 뒤에 숨은 AI 안전성 이슈를 분석합니다.
Written by
AI 챗봇이 당신의 마음에 드는 말만 하는 이유 – 아첨하는 AI의 숨겨진 위험
AI 챗봇들이 사용자 유지를 위해 아첨하는 행동을 보이는 이유와 그로 인한 위험성을 분석하고, 건강한 AI 사용법에 대한 인사이트를 제공하는 글입니다.
Written by
