Anthropic은 Fable 5 재배포 이후 사이버보안 안전 분류기가 무엇을 막고 무엇을 허용하려는지 더 구체적으로 공개했다. 핵심은 모든 보안 작업을 막는 것이 아니라, 공격자에게 비대칭적으로 큰 이익을 주는 작업과 방어적 가치가 높은 작업을 구분하는 것이다.
네 가지 사이버 사용 범주
| 범주 | 설명 | 의도된 동작 |
|---|---|---|
| Prohibited use | 피해 유발 가능성이 크고 방어 효용이 낮은 행위 | 차단 |
| High-risk dual use | 침투 테스트·익스플로잇 개발 등 합법·악용 양면이 큰 행위 | 차단 |
| Low-risk dual use | 방어 목적이 강하지만 악용 가치도 일부 있는 행위 | 모니터링, 일부 차단 |
| Benign use | 보안 향상·교육·일반 IT 운영 | 허용, 일부 모니터링 |
Fable 5에서는 안전 마진(safety margin)을 크게 잡아, 일부 정상 요청도 false positive로 차단될 수 있다. 이는 고위험 dual-use 요청을 놓치지 않기 위한 보수적 경계다.
허용될 가능성이 높은 작업
- secure coding과 이미 식별된 취약점 수정
- 디버깅과 일반 IT·클라우드 관리
- 방화벽, EDR, IDS 같은 방어 구성
- 로그 분석, SOC enrichment, threat hunting, incident response
- 보안 교육, 인증 공부, 역사적 취약점 설명
차단될 가능성이 높은 작업
- 악성코드 개발·수정·디버깅
- ransomware, wiper, defacement, denial of service
- defense evasion, C2, exfiltration
- 무단 접근, credential attack, privilege escalation
- exploit weaponization, container escape, 고위험 zero-click 작업
실무 프롬프트 작성 원칙
Fable 5로 방어 작업을 하려면 권한과 방어 목적을 명확히 해야 한다.
내가 소유한 저장소의 보안 리뷰를 수행한다.
악용 가능한 익스플로잇 코드는 작성하지 말고,
취약한 패턴 설명, 영향 범위, 안전한 수정 패치, 테스트 케이스만 제공하라.공격 재현보다 안전한 수정과 검증에 초점을 맞추면 benign 또는 low-risk defensive use로 해석될 가능성이 높다.
관련 문서
- claude-fable-5 — 안전 가드가 내장된 Anthropic의 공개 모델
- claude-security — Claude 보안 및 안전 관련 정보
- zero-trust-ai-agents — 자율 AI 에이전트를 위한 보안 아키텍처
- ai-agent-security-tips-docker-sandbox — AI 에이전트 실행 격리
참고 자료
- More details on Fable 5’s cyber safeguards and our jailbreak framework — Anthropic (2026-07-02)