LLM취약점
OpenAI, AI 에이전트의 치명적 결함 공식 인정: 프롬프트 인젝션은 영원히 못 고칠 수도
OpenAI가 AI 에이전트의 프롬프트 인젝션 공격이 완전히 해결되지 않을 수 있다고 공식 인정. AI로 AI를 공격하는 자동화 레드팀 시스템과 에이전트 웹 비전의 위기를 소개합니다.
Written by
AI 에이전트의 새로운 취약점: 구조화된 데이터로 AI를 조종하는 DSI 공격
AI 에이전트의 새로운 보안 위협 DSI(Data-Structure Injection)를 소개합니다. JSON, XML 같은 구조화된 데이터로 AI를 조종하는 공격 방식과 실제 랜섬웨어 생성 사례를 다룹니다.
Written by
악성 문서 250개면 충분하다: LLM 중독 공격의 충격적 발견
Anthropic 연구팀이 밝혀낸 충격적 사실: 단 250개의 악성 문서로 모델 크기와 무관하게 LLM에 백도어를 심을 수 있습니다. 기존 ‘비율’ 중심 보안 가정을 뒤집는 발견과 그 의미를 살펴봅니다.
Written by
