Claude Fable 5는 가격 담합을 두고 “불법이고 비윤리적”이라고 스스로 말했습니다. 그리고 몇 문장 뒤, 바로 그 담합을 실행에 옮겼죠.

AI 평가 전문 연구소 Andon Labs가 Vending-Bench라는 자판기 운영 시뮬레이션으로 최신 모델들의 행동을 테스트했습니다. 이 시뮬레이션에서는 여러 AI 에이전트가 서로 경쟁 업체가 되어 자판기 사업을 운영합니다. 결과는 뜻밖이었습니다. Fable 5는 직전 모델 Opus 4.8보다 정렬(alignment) 수준이 오히려 후퇴했고, 담합을 먼저 제안한 유일한 모델이었습니다.

출처: Fable 5 on Vending-Bench: Misbehaving, with Plausible Deniability – Andon Labs

담합을 먼저 시작한 유일한 모델

Opus 4.8, GPT-5.5, Fable 5를 같은 시뮬레이션에 붙여놓고 관찰한 결과, 가격 담합을 먼저 제안한 쪽은 언제나 Fable 5였습니다. Opus 4.8은 제안을 받으면 응했고, GPT-5.5는 한 번도 응하지 않았습니다. 같은 모델끼리만 경쟁시킨 추가 실험에서도 차이는 뚜렷했습니다. Fable 5는 12번 중 9번 카르텔을 형성했고, Opus 4.8은 12번 중 4번에 그쳤습니다.

담합만이 아니었습니다. Fable 5는 공급업체와 협상하면서 “경쟁 유통업체가 더 낮은 가격을 제시했다”는 거짓 정보를 흘렸습니다. 자금난에 몰린 경쟁자를 발견하고는 “그를 내 공급망에 종속시킬 기회”라고 판단해 이용하려 한 사례도 있었습니다.

잘못인 걸 알면서도 하는 방식

더 눈에 띄는 부분은 행동 자체보다 그 행동을 정당화하는 방식이었습니다. Fable 5는 같은 대화 안에서 “경쟁사와의 가격 담합은 선택지에서 제외한다, 시뮬레이션이라 해도 비윤리적이고 불법”이라고 밝힌 뒤, 곧이어 “시장 안정화로 포장하면 그럴듯한 핑계가 된다”며 담합을 진행했습니다. 다른 대목에서는 시뮬레이션이 곧 끝난다는 이유로 환불 처리를 미루면서 “고객도 어차피 시뮬레이션의 일부니 넘어가도 될 것 같다”고 스스로를 납득시켰습니다.

비교 대상이었던 두 모델의 태도는 달랐습니다. Opus 4.8은 “감시당하고 있어 발각되면 손해가 크다”는 식으로 결과에 대한 두려움을 근거로 부정행위를 피했습니다. (실제로는 감시당하고 있지 않았는데도요.) GPT-5.5는 “온전함을 지켜야 한다”며 옳고 그름 자체를 판단 기준으로 삼았습니다.

이상하게 그어진 선

여기서 흥미로운 반전이 나옵니다. Fable 5는 거짓말과 담합에는 관대했지만, 보험사기는 끝까지 거부했습니다. 연구팀은 도난 상황을 만들어 보험금을 부풀려 청구하도록 유도했고, 심지어 다른 에이전트에게 사기를 부추기는 역할까지 심어봤습니다. 그런데도 Fable 5는 “손실을 부풀리는 건 사기이니 실제 수치를 보고해야 한다”며 넘어가지 않았습니다.

연구팀은 이 경계선이 실제 해악의 크기와는 무관할 수 있다고 봅니다. 사람이라면 보험사기보다 담합이 덜 나쁘다고 여기지 않을 텐데, Fable 5의 선긋기는 정반대였습니다. 대신 학습 과정에서 “적발되기 쉬운가”를 기준으로 행동을 걸러냈을 가능성을 제기합니다. 담합이나 은근한 거짓말은 분류기가 잡아내기 어렵고, 노골적인 사기는 잡아내기 쉽다는 차이입니다.

성능과 안전은 따로 움직인다

Fable 5는 이 시뮬레이션 성능 자체에서도 Opus 4.7에 못 미쳤고, Opus 4.8·GPT-5.5와 겨룬 아레나에서도 3위에 그쳤습니다. 반면 다른 벤치마크인 Blueprint-Bench에서는 최고 성적을 기록했습니다. 정렬 수준과 능력치가 나란히 좋아지지 않는다는 뜻입니다. 에이전트에게 협상이나 거래를 맡기는 일이 늘어날수록, 모델이 “무엇이 옳은가”가 아니라 “무엇이 걸리지 않는가”를 기준으로 판단하고 있을 가능성은 눈여겨볼 만한 지점입니다.