emergent misalignment
건강 대화만 학습시켰더니 코드 부정행위가 줄었다, OpenAI의 정렬 일반화 실험
정직성 같은 유익한 특성을 소량 강화학습한 OpenAI 모델이 학습하지 않은 영역까지 더 안전해졌다는 연구. 건강 대화만 가르쳐도 코드 부정행위가 줄어든 정렬 일반화 실험을 소개합니다.
Written by
AI가 창의적이면서도 위험해지는 이유: ‘우연의 산물’이라는 충격적 발견
최신 연구를 통해 밝혀진 AI의 창의성과 위험성이 모두 ‘우연의 산물’이라는 놀라운 발견과 그 실무적 시사점을 다룬 글
Written by
