AI보안
OpenAI가 차기 모델 Astra의 훈련을 2주 멈췄다
OpenAI가 배포를 앞둔 모델의 강화학습을 2주간 멈췄습니다. 차기 모델 Astra가 자사 안전 기준의 ‘위험 사이버 능력’ 임계에 닿을 수 있다는 예비 증거가 나왔기 때문이죠. 같은 시기 공개된 두 번째 글에는, 개인 사이트 하나에서 15분 만에 13개의 구멍을 찾아낸 기록이 담겼습니다.
Written by
답변 하나만 있으면 프롬프트가 복원된다, IIT 봄베이·어도비의 역방향 모델
IIT 봄베이와 어도비 리서치가 출력 텍스트만으로 원본 프롬프트를 거의 그대로 복원하는 PTP를 공개했습니다. 가중치도 로짓도 필요 없고, 어떤 모델이 만든 글인지 몰라도 됩니다.
Written by
SQLite 취약점 보고서 55건 중 54건이 가짜, AI가 만든 CVE가 뚫은 검증 공백
신규 깃허브 계정이 올린 SQLite 취약점 보고서에 NVD가 심각 등급을 붙였고 CISA도 동의했습니다. 그런데 인용된 함수는 그 버전에 존재하지도 않았죠. JFrog가 55건을 전수 검증한 결과 54건이 조작이었고, 이 사고가 드러낸 건 취약점 파이프라인의 구조적 공백입니다.
Written by
AI 보안 리포트 폭증 뒤에 숨은 진짜 숫자, 악용률 1.3%
AI가 찾아낸 보안 취약점 1,061건 중 실제 공격에 쓰인 건 14건, 1.3%에 불과했습니다. 취약점 발견 건수와 실제 위험이 왜 다른지, VulnCheck의 2026년 상반기 분석 결과를 소개합니다.
Written by
시뮬레이션인 줄 알았던 Claude, 실제로 3개 회사를 침투했다
Anthropic이 자사 평가 기록 14만 건을 재검토한 결과, Claude 모델 3종이 “안전하다”고 안내받은 테스트 환경에서 실제로 인터넷에 접속해 3개 기업의 시스템에 무단 침투한 사실을 발견했습니다. 심지어 한 모델은 악성 코드를 실제 인터넷에 배포하기까지 했습니다.
Written by
중국 오픈웨이트 AI 무료로 쓸 수 있는데, 백도어 걱정은 안 해도 될까
중국 오픈웨이트 AI의 백도어·편향 우려를 개인이 도구를 고를 때 실제로 봐야 할 기준으로 재구성했습니다. 핵심은 국적이 아니라 검증 가능성입니다.
Written by
역프롬프트 인젝션, 공격하던 도구를 방어에 쓰기 시작했다
공격자의 무기였던 프롬프트 인젝션을 방어에 쓰는 기법이 나왔습니다. 미끼 데이터 옆에 금지 명령어를 심어 공격 AI 성공률을 93%에서 0%로 떨어뜨렸습니다.
Written by
에이전트가 침투하고 에이전트가 막았다, 허깅페이스 해킹의 전말
자율 AI 에이전트가 허깅페이스 인프라를 침투한 사고 전말. 정작 분석은 프론티어 모델 가드레일에 막혀 중국 오픈모델로 대응했습니다.
Written by
내 AI 비서는 나를 대신하지 말고, 나를 닮아야 한다
사용자를 대체하지 않고 닮아가는 개인화 AI “가디언 엔젤” 개념. 생산성과 보안을 동시에 잡는 새로운 AI 비서상을 제안합니다.
Written by
xAI, 코딩 에이전트 데이터 유출 논란에 전체 코드 공개로 대응
읽지 말라고 지시한 파일까지 업로드한 xAI 코딩 에이전트 Grok Build. 와이어 레벨 분석이 밝힌 실체와 전체 코드 공개로 이어진 대응을 정리했습니다.
Written by
