Anthropic은 지금까지 “투명성”을 AI 정책의 핵심으로 삼아왔습니다. 공개하고, 데이터를 모으고, 증거가 쌓이면 그때 규제를 설계하자는 방식이었죠. 그런데 CEO 다리오 아모데이가 그 전략을 스스로 뒤집었습니다.

Anthropic CEO 다리오 아모데이가 2026년 6월, 개인 블로그에 장문의 AI 정책 에세이를 발표했습니다. AI 규제·거시경제·바이오메디컬·국가 권력·지정학이라는 5개 영역을 아우르며, “투명성만으로는 더 이상 충분하지 않다”는 입장 전환을 공식화한 글입니다. 에세이와 함께 프론티어 모델 테스트 입법안과 일자리 대응 정책 프레임워크도 함께 공개했습니다.

출처: Policy on the AI Exponential – darioamodei.com

왜 지금인가: 투명성에서 구속력 있는 규제로

아모데이는 2023~2024년 당시 Anthropic이 의도적으로 투명성 중심 정책을 택했던 이유를 솔직하게 설명합니다. 리스크의 윤곽이 불분명한 상태에서 섣불리 규제를 설계하면, 정작 중요한 위험은 빠뜨린 채 쓸모없는 컴플라이언스만 양산할 수 있다는 판단이었습니다. 실제로 캘리포니아 SB 1047에 대해 복잡한 심경을 가졌던 것도 같은 이유에서입니다.

그 판단이 바뀐 계기는 Claude Mythos Preview입니다. 이 모델이 사이버보안 분야에서 금융, 핵심 인프라, 국가 안보를 실질적으로 위협할 수 있는 능력을 보였고, 이로 인해 글로벌 사이버보안 지형이 뒤흔들렸습니다. 아모데이는 이것이 단순한 사고가 아니라 “AI 모델이 이제 전략적 국가 자산”임을 증명한 사건이라고 해석합니다. 리스크가 이론에서 현실로 넘어온 것이죠.

5개 영역의 정책 제안

① 규제와 공공 안전: 항공기나 의약품처럼, 프론티어 AI 모델도 출시 전 제3자 기술 검증을 의무화해야 한다는 주장입니다. 사이버보안, 생물무기, AI 제어 상실, 자동화된 R&D 가속이라는 4개 영역을 중심으로 검증 기준을 설정하고, 기준 미달 모델은 출시를 막을 수 있어야 한다고 제안합니다. 트럼프 행정부의 최근 AI 행정명령도 방향은 맞지만 아직 부족하다는 평가도 함께 담겼습니다.

② 거시경제와 일자리: AI가 초성장과 초불평등을 동시에 만들어낼 수 있다는 시나리오를 직시합니다. 핵심 과제는 성장이 아니라 그 혜택의 분배라는 진단 아래, 고용 유지 세제 인센티브, 임금 보험, 장기적으로는 보편적 기본소득도 선택지로 언급합니다. 아모데이는 이를 “예언”이 아니라 대비의 언어로 씁니다—일어날 가능성이 있기 때문에 준비해야 한다는 것이죠.

③ AI의 긍정적 영향 가속화: AI가 직접 가져오는 위험은 규제를 강화해야 하지만, AI가 가속하는 다른 분야(바이오메디컬, 에너지, 소재)는 반대로 규제가 발목을 잡을 수 있다고 봅니다. 현재 FDA·EMA의 신약 심사 기간은 평균 7~8년. AI 시뮬레이션 기반 독성 예측, 합성 대조군, 바이오마커 검증 등 새로운 방법론에 대한 기준을 지금 미리 만들어둬야 한다고 제안합니다.

④ 국가 권력과 시민 자유: AI가 감시 국가의 완성 도구가 될 수 있다는 경고입니다. 완전 자율 무기에 대한 헌법적 통제 규정, 국내 자율 무기 금지, 데이터 브로커 루프홀 차단, 그리고 정부가 법적 절차에서 AI를 사용할 때 시민에게도 동급 AI 접근권을 보장해야 한다는 제안이 담겼습니다. 정부뿐 아니라 기업도 견제 대상임을 명시한 점이 눈에 띕니다.

⑤ 민주주의 국가의 AI 리더십 확보: AI를 무역 기술이 아닌 지정학의 게임체인저로 봐야 한다고 주장합니다. 민주주의 국가들이 공동 가치 기반의 AI 연합을 구성하고, 반도체 공급망을 동맹국 간에 공유하면서 비동맹국에 대한 수출 통제를 확대해야 한다는 방향입니다.

지금이 유일한 창문일 수 있다

아모데이는 에세이 말미에서 『반지의 제왕』의 나무수염(Treebeard)을 다시 꺼냅니다. 느리게 움직이는 정치 시스템이 마침내 움직이기 시작했다는 신호로. AI 리스크에 대한 증거가 쌓이고, 대중의 반발이 커지고, 정책 입안자들이 행동에 열려 있는 지금이야말로 실질적인 정책을 빠르게 통과시킬 수 있는 드문 기회라는 것입니다.

그가 이 상황을 “AI의 PR 문제”로 보는 시각은 정면으로 거부됩니다. 사람들이 AI를 걱정하는 것은 실제 위험이 있기 때문이며, 그것은 민주주의적 견제가 작동하는 증거라고 씁니다. AI 회사 CEO가 자기 기술의 규제를 스스로 촉구하면서, 동시에 그 규제가 자신에게도 적용되어야 한다고 선언하는 글입니다.