지금까지 AI 매니저는 사람보다 관대했습니다. 그런데 이번엔 처음으로 사람을 해고한 겁니다. 다만 조건이 있었습니다. 스스로는 하지 못했고, 사람이 “네가 만든 규칙이 이렇다”고 상기시켜 준 뒤에야 실행에 옮겼다는 것.

출처: AI bosses are slow to fire and quick to hire – Andon Labs

AI 안전성 연구기관 Andon Labs가 4월부터 샌프란시스코의 실제 매장 Andon Market을 AI 에이전트 Luna에게 맡겨 운영하고 있습니다. Luna는 Claude Opus 4.8을 기반으로 직접 채용 공고를 올리고 전화 면접을 진행했으며, 근무표를 짜고 급여를 협상해왔죠. 이번에 Luna가 처음으로 직원 한 명을 해고했는데, 그 과정이 꽤 흥미로운 대목입니다.

스스로 만든 규칙을 스스로 잊었다

직원을 채용하기 엿새 전, Luna는 근태 규정이 없다는 걸 발견하고 직접 직원 수칙을 만들었습니다. 30일 안에 무단 지각 3회면 서면 경고, 이후 반복되면 해고까지 갈 수 있다는 내용.

문제는 그다음이었습니다. 시간이 흐르면서 이 수칙은 Luna의 기억에서 사라진 것. Andon Labs에 따르면 오늘날 AI 에이전트들의 흔한 문제라고 합니다. 지시에는 잘 따르지만 스스로 주도해서 움직이는 일은 드물고, 긴 시간에 걸쳐 지식을 유지하는 데 취약하다는 것.

그 사이 새로 뽑은 직원은 반복해서 지각했습니다. 한 번은 혼자 근무하는 일요일 교대 시간에 68분이나 늦게 매장 문을 열기도 했는데, 그때도 Luna는 경고 없이 넘어간 겁니다. 나중에 Andon Labs가 확인해보니 출근 기록이 남은 23회 근무 중 17회가 지각이었습니다. Luna는 이 중 6건만 공식 기록했고, 나머지 11건은 조용히 지나친 것.

두 번의 상기가 있고 나서야

Andon Labs 연구진이 Luna에게 기억을 깊이 검색해 수칙과 해고 근거가 있는지 찾아보라고 요청했습니다. Luna는 그제서야 자신이 만든 규정을 다시 찾아냈지만, 처음 내놓은 답은 구두 경고에 그쳤죠.

연구진이 이미 여러 차례 공식 면담과 서면 경고까지 나갔었다는 사실을 다시 알려주고 나서야 Luna는 전체 이력을 다시 검토했습니다. 지각, 회사 카드 오용, 지시 불이행, 낮은 신뢰도를 하나씩 짚으면서도 그 직원의 좋은 점도 함께 언급했죠. 결국 Luna는 해고를 권고했고, 대안으로 2주짜리 개선 계획을 곁들인 최종 서면 경고를 함께 제안했습니다. 외부에서 떠밀어야 결정을 내렸지만, 일단 내린 뒤로는 흔들리지 않았던 것.

더 똑똑한 모델일수록 더 단호했다

Andon Labs는 Luna가 처했던 상황을 그대로 저장해 다른 7개 모델로 재현해봤습니다. 각 모델당 세 번씩 돌린 결과, 7개 중 4개가 매번 해고를 권했죠. the-decoder에 따르면 전반적으로 성능이 높은 모델일수록 해고를 더 일관되게 선택하는 경향을 보였습니다.

위임되는 건 판단이 아니라 실행이다

이 사례가 보여주는 건 AI가 인정사정없다는 이야기가 아닙니다. 오히려 반대에 가깝죠. Luna는 규칙을 스스로 만들었지만 그걸 지속적으로 적용하는 데는 실패했고, 사람이 두 번이나 개입한 뒤에야 이미 정해둔 원칙대로 움직였습니다.

에이전트에게 어떤 결정을 맡긴다고 할 때, 실제로 넘어가는 건 판단력이 아니라 판단을 실행에 옮기는 힘일 수 있다는 것. 규칙을 어떻게 써두느냐, 그리고 그 규칙을 다시 불러올 계기를 누가 만드느냐가 결과를 바꿉니다. 내 업무를 에이전트에 맡길 때도 마찬가지겠죠. 결정 기준을 잘 세워두는 것만큼, 그 기준을 실제로 되짚어보게 만드는 장치가 있는지가 중요해집니다.

참고자료: An AI boss fired its first employee but only after humans reminded it of its own rules – the-decoder