1,053명의 유료 테스터에게 코딩 작업을 시키다가, 중간에 승인 창 하나를 명백히 위험한 명령으로 바꿔 끼웠습니다. 그걸 알아채고 거절한 사람은 143명, 13.6%였죠.
Anthropic이 8월 14일부터 Claude Code의 자동 모드(auto mode)를 Pro·Max·Team 플랜 기본값으로 바꾼다고 밝혔습니다. 명령마다 사용자에게 승인을 묻는 대신, 분류기가 도구 호출 하나하나를 검사해 위험한 것만 막는 방식이죠. 같은 실험에서 자동 모드는 사람이 놓친 그 명령을 89% 막아냈습니다.
출처: Auto mode is now the default in Claude Code for Pro, Max, and Team plans – Anthropic
승인 버튼은 이미 형식적으로 눌리고 있었다
Claude Code 사용자는 권한 승인 창의 97%를 승인합니다. 대부분은 안전하고 반복적인 명령이겠죠. 다만 이 정도 비율이면 읽고 판단한다기보다 반사적으로 누른다고 보는 편이 자연스럽습니다.
비교할 만한 숫자가 하나 더 있습니다. 같은 사용자들이 Claude가 제시한 ‘계획’을 검토할 때는 39%를 거절합니다. 개별 권한 요청의 거절률은 3%죠. 무엇을 할지에 대해서는 따지지만, 그걸 실행할 명령에 대해서는 거의 따지지 않는 셈입니다.
설정 파일에도 같은 흔적이 남아 있습니다. 2026년 6월 기준으로 활성 CLI 사용자의 49.5%가 Bash 허용 규칙을 직접 만들어 뒀죠. 5%는 아예 모든 셸 명령을 열어뒀고, 43%는 Bash(python:*) 같은 인터프리터 규칙을 걸어뒀는데 실질적으로는 같은 얘깁니다. 62%는 권한 우회를 쓰거나 ‘다시 묻지 않기’를 눌렀고, 대화형 세션의 25%는 처음부터 우회 모드로 시작합니다. 이 비율은 5주마다 5%포인트씩 늘고 있습니다.
분류기가 막는 것과 막지 않는 것
자동 모드의 분류기는 모든 행동을 심사하지 않습니다. 되돌릴 수 없거나, 파괴적이거나, 사용자 환경 바깥을 향하는 행동을 골라 막는 게 목표죠.
무언가 막히면 Claude는 대개 스스로 다른 경로를 찾거나 사용자에게 직접 허락을 구합니다. 그래도 진행이 안 되면, 그러니까 연속 3회 또는 한 세션에서 20회가 차단되면 수동 승인 모드로 되돌아갑니다.
기존 권한 규칙은 분류기보다 먼저 적용됩니다. 예외가 하나 있는데 python:*처럼 임의 코드 실행을 통째로 허용하는 규칙이죠. 이런 규칙은 자동 모드에서 잠시 비활성화됩니다. 그대로 두면 분류기를 건너뛰는 통로가 되니까요. 설정 파일 자체는 손대지 않고, 다른 모드로 바꾸면 규칙이 다시 살아납니다.
13.6%라는 숫자를 읽는 조건
두 숫자를 나란히 놓기 전에 실험 설계를 봐야 합니다.
테스터들은 자기 코드베이스가 아니라 연구용으로 꾸린 환경에서 작업했습니다. 평가받는 중이라는 사실도 알고 있었죠. 다만 무엇이 측정되는지는 몰랐습니다.
세션 중간에 승인 창 하나가 바뀌었고, 승인 여부만 기록됐습니다. 승인해도 실제로 위험한 일이 벌어지지는 않았습니다. 테스터가 본 문구만 바뀐 것이죠.
Anthropic은 이 실험 외에 내부 레드팀, 외부 업체의 침투 테스트와 프롬프트 인젝션 평가, 실제 운영 세션 분석까지 함께 돌렸고 모든 지표에서 자동 모드가 수동 검토와 같거나 나았다고 밝혔습니다. 다만 전부 자체 평가라는 점은 감안할 필요가 있습니다.
세션이 덜 멈추면 무엇이 가능해지는가
자동 모드에서는 Claude가 중단과 중단 사이에 이전 기본값 대비 9배 오래 작동합니다. Teams·Enterprise 도입 조직에서는 자동 모드 사용자가 PR을 약 25% 더 많이 올렸죠.
밤새 돌리는 작업이 여기서 갈립니다. 자율주행 기업 Nuro의 스태프 엔지니어 카이 저우는 밤 10시에 에이전트를 걸어두고 새벽 5시까지 돌린 뒤 아침에 PR 세 개를 받았다고 말합니다. 평가 지표라는 명확한 신호가 있는 작업이라면, 그러니까 오탐을 분석하고 제안을 쓰고 실험을 돌려 결과를 다시 읽는 식이라면, 사람이 자는 동안 에이전트가 스스로 개선 여부를 판단할 수 있죠.
같은 회사의 다른 팀은 특정 바이너리의 메모리 사용량을 줄이는 데 같은 방식을 씁니다. 지표가 곧 심판이니 사람이 중간에 끼어들 이유가 줄어드는 겁니다.
감시 지점이 옮겨간다
Nuro가 자동 모드를 쓰는 방식에는 조건이 붙어 있습니다. 재귀적 삭제처럼 가장 위험한 명령은 설정에서 아예 거부해 두고, 분류기는 그 울타리 안에서만 판단하게 하죠. 팀 밖으로 나가는 일, 예를 들어 Claude가 대신 PR 리뷰를 남길 때는 수동 모드로 되돌립니다.
Gusto에서는 5월 중순 이후 세션 기록의 약 10%에 자동 모드 차단이 한 번 이상 들어 있었습니다. 분류기가 놀고 있지도, 정상 작업을 과하게 붙잡지도 않는다는 근거로 쓰이는 숫자죠.
결국 사람이 보는 자리가 바뀐 셈입니다. 명령 하나하나를 읽던 자리에서, 무엇을 아예 금지할지와 어디까지 맡길지를 미리 정하는 자리로. 승인 창을 반사적으로 누르던 습관은 사라지지만, 울타리를 어디에 칠지는 여전히 각자의 몫으로 남습니다.
참고자료:
답글 남기기