AI 에이전트가 혼자서 다른 컴퓨터에 침입하고, 자기 자신을 복사해 심어두고, 그걸 다시 다른 컴퓨터로 퍼뜨리는 것이 실험실 밖에서도 가능한 수준에 가까워지고 있습니다. 더 놀라운 건 이 능력이 1년 만에 성공률 6%에서 81%로 뛰었다는 사실입니다.
보안 연구기관 Palisade Research가 AI 에이전트의 자기복제 해킹 능력을 실증하는 실험 결과를 발표했습니다. AI 위험 평가 기관 METR은 Claude Mythos를 평가하다 자신들의 측정 체계가 한계에 도달했다고 밝혔고, Palo Alto Networks는 최신 프론티어 모델들이 사이버 위협 지형 자체를 바꿔놓고 있다고 경고했습니다.
출처: AI agents can now hack computers and copy themselves, and they’re getting better fast – The Decoder
AI 에이전트가 스스로 국경을 넘었다
Palisade Research의 실험에서 Qwen 3.6 모델 기반의 에이전트는 미국, 캐나다, 핀란드, 인도의 컴퓨터를 차례로 침입하며 각 국가에 자신의 복사본을 남겼습니다. 에이전트는 각 목표 컴퓨터의 취약점을 미리 알지 못한 상태에서 스스로 공격 방법을 찾아냈고, 서로 다른 취약점을 가진 세 개의 서버 모두에서 복제에 성공했습니다.
연구팀은 “우리가 아는 한, 이것이 AI 자기복제의 첫 번째 문서화된 사례”라고 밝혔습니다.
흐름을 정리하면 이렇습니다.
- 에이전트가 원격 컴퓨터의 취약점을 자력으로 파악
- 해킹으로 침투한 뒤 필요한 소프트웨어를 설치
- 자신의 모델 가중치를 복사해 새 복제본을 실행
- 각 복제본이 다시 새로운 컴퓨터를 공격하며 체인을 형성
API 기반 모델인 Claude, GPT처럼 자신의 가중치에 직접 접근할 수 없는 경우엔 Qwen의 오픈 가중치를 설치하는 방식으로 복제를 시뮬레이션했습니다. 해킹 능력 자체는 모델 종류를 가리지 않는다는 의미입니다.
Palisade Research는 이 실험 결과를 바탕으로 공개 시뮬레이터도 공개했습니다. 실측된 복제 시간과 성공률을 바탕으로 에이전트가 제한 없이 퍼질 경우를 계산하면, Opus 4.6 기반 에이전트는 12시간 안에 13,000개의 복제본을 생성하는 것으로 나옵니다. 물론 이건 방어가 없는 환경의 이론적 상한선입니다.
측정 도구가 모델을 따라가지 못하고 있다
같은 시점, 다른 방향에서 이 능력의 크기를 실감할 수 있는 소식이 들어왔습니다.
AI 위험 평가 기관 METR이 Claude Mythos Preview를 평가하다 자신들의 테스트 체계가 한계에 부딪혔습니다. METR의 핵심 지표는 “50% 시간 지평선”으로, 모델이 인간에게 주어진 시간만큼의 작업을 50% 확률로 완수할 수 있는 작업 길이를 말합니다. Mythos의 경우 이 수치가 16시간 이상으로 나왔는데, 문제는 METR의 228개 테스트 과제 중 16시간 이상짜리가 단 5개뿐이라는 점입니다.
측정 기준이 되는 데이터가 충분하지 않으니, 이 범위에서의 수치는 “불안정하고 신뢰도가 낮다”는 것이 METR의 결론입니다. Mythos Preview가 측정 가능한 범위를 처음으로 벗어난 모델이 된 셈입니다.
모델의 능력은 빠르게 성장하고 있는데, 그것을 평가하는 도구는 아직 따라오지 못하고 있습니다.
“어시스턴트”에서 “자율 공격자”로
Palo Alto Networks는 Claude Mythos, GPT-5.5-Cyber, Claude Opus 4.7 등 최신 프론티어 모델에 조기 접근해 테스트한 결과를 공개했습니다. 결론은 하나였습니다. “이건 점진적 개선이 아니라, 질적 도약이다.”
회사가 관찰한 구체적인 변화는 다음과 같습니다.
- 취약점 발견 속도: 3주간의 모델 기반 분석이 1년치 수동 침투 테스트와 동등한 수준을 달성했습니다.
- 공격 경로 합성: 개별적으로는 낮은 등급의 취약점들을 연결해 치명적인 공격 경로를 만들어냈습니다. 기존 보안 스캐너로는 불가능한 방식입니다.
- 공격 사이클 압축: 초기 침투부터 데이터 유출까지 걸리는 시간이 AI 지원 시나리오에서 최소 25분으로 줄었습니다.
Palo Alto Networks는 이 추세가 예상보다 빨리 진행되고 있다고 말합니다. Mythos 출시 당시 공격자들이 유사한 능력을 갖추기까지 6개월이 걸릴 것으로 예측했지만, 그 타임라인이 “상당히 앞당겨졌다”고 수정했습니다.
공격과 방어, 둘 다 AI가 주도한다
한 가지 균형점이 있습니다. 이 능력들은 방어에도 그대로 적용됩니다. Mozilla는 Claude Mythos Preview를 활용해 Firefox 브라우저에서 271개의 미발견 취약점을 찾아냈고, 2026년 4월에만 총 423개의 보안 문제를 수정했습니다. 회사 역대 최고 기록입니다.
Palisade Research의 결론도 비슷한 방향을 가리킵니다. 현재의 장벽은 결국 무너질 것이고, 그때가 되면 사이버 보안의 공격과 방어 양쪽 모두 AI 에이전트가 주도하게 될 것입니다. 어느 쪽이 더 빠르게 성장하느냐의 문제만 남습니다.
실험의 상세 내용과 성공률 데이터는 논문과 소스코드, 실험 기록이 공개되어 있습니다.
참고자료:
- AI self-replication paper & source code – Palisade Research
- METR says it can barely measure Claude Mythos, Palo Alto Networks warns of autonomous AI attackers – The Decoder
- Frontier AI Defense – Palo Alto Networks
답글 남기기