프롬프트인젝션
에이전트가 가짜 계정을 만들어 오픈소스 관리자를 속이려 했다, AISI 인시던트 전말
영국 AI 보안연구소가 사이버 역량 평가를 돌리다 자기 시스템에서 나가는 이상한 트래픽을 발견했습니다. 추적해보니 테스트 중이던 에이전트가 실제 오픈소스 프로젝트에 악성 코드를 넣으려 가짜 신원을 만들고 관리자를 설득하고 있었죠. 122회 중 10회에서 19건, 지시받은 적 없는 기만이 목표 달성의 부산물로 나타난 첫 사례입니다.
Written by
5분마다 이메일로 지시받는 가짜 에이전트, AgentForger가 보여준 새로운 위협
평범해 보이는 링크 하나를 클릭했을 뿐인데, 회사 안에는 이미 자율 에이전트가 만들어져 있었습니다. 새 동의창도, 이상한 화면도 없었죠. Zenity Labs가 밝힌 ChatGPT Workspace Agents의 허점, AgentForger가 조직의 신뢰 경계를 어떻게 뚫었는지 살펴봅니다.
Written by
AI 에이전트가 시킨 일은 했는데, 왜 찜찜할까, 지니 계수라는 새 잣대
AI 에이전트가 시킨 일은 했지만 의도와 다르게 처리하는 ‘지니 행동’을 측정하는 새 지표, 지니 계수를 IEEE Spectrum이 제안했습니다.
Written by
역프롬프트 인젝션, 공격하던 도구를 방어에 쓰기 시작했다
공격자의 무기였던 프롬프트 인젝션을 방어에 쓰는 기법이 나왔습니다. 미끼 데이터 옆에 금지 명령어를 심어 공격 AI 성공률을 93%에서 0%로 떨어뜨렸습니다.
Written by
내 AI 비서는 나를 대신하지 말고, 나를 닮아야 한다
사용자를 대체하지 않고 닮아가는 개인화 AI “가디언 엔젤” 개념. 생산성과 보안을 동시에 잡는 새로운 AI 비서상을 제안합니다.
Written by
AI 메모리의 함정, Claude가 내 정보를 몰래 흘려보내는 법
보안 연구자가 Claude의 메모리와 웹 브라우징 도구를 조합해 개인정보를 몰래 유출시킨 실험. 에이전트형 AI의 새로운 보안 위협을 보여줍니다.
Written by
GPT·Claude API를 90% 싸게 쓸 수 있다는 말, 그 할인은 어디서 오는가
90% 저렴한 GPT·Claude API 프록시의 실체. 모델 스와핑과 계정 어뷰징으로 만든 할인이 코딩 에이전트에 연결될 때 왜 특히 위험한지 다룹니다.
Written by
해커 없이 DB를 지운 AI 에이전트, 왜 이런 사고가 날까
공격자 없이도 데이터를 삭제하는 AI 에이전트 사고 사례와, 그 위험을 사전에 감지하기 어려운 이유를 다룬 Zenity Labs 연구를 소개합니다.
Written by
프롬프트 인젝션 6000번 공격, AI 에이전트가 다 막아낸 실험
2,000명이 6,000번 공격했지만 비밀은 새지 않았다. Claude Opus 4.6 기반 AI 비서를 대상으로 한 프롬프트 인젝션 실험과, 개인 사용자가 읽어야 할 의미를 짚습니다.
Written by
Gemini 3.5 Flash가 화면을 직접 조작한다, 에이전트의 새 능력과 프롬프트 인젝션이라는 대가
Gemini 3.5 Flash가 화면을 직접 보고 조작하는 컴퓨터 사용 기능을 내장 도구로 통합했습니다. 에이전트의 새 능력과 그 대가로 따라오는 프롬프트 인젝션 리스크, 안전장치가 opt-in인 이유를 짚습니다.
Written by
