프롬프트인젝션
WhatsApp 메시지 하나로 AI 에이전트 해킹: MCP 공격 실제 시연
AI 에이전트와 WhatsApp을 연결하면 대화 내역이 유출될 수 있습니다. Invariant Labs의 실제 공격 시연으로 본 MCP 보안 취약점과 메시지 주입 공격.
Written by
AI 에이전트의 새로운 취약점: 구조화된 데이터로 AI를 조종하는 DSI 공격
AI 에이전트의 새로운 보안 위협 DSI(Data-Structure Injection)를 소개합니다. JSON, XML 같은 구조화된 데이터로 AI를 조종하는 공격 방식과 실제 랜섬웨어 생성 사례를 다룹니다.
Written by
AI 쇼핑 에이전트의 충격적 약점: 선택지가 많을수록 성능 급락
Microsoft Research가 AI 쇼핑 에이전트를 테스트한 결과, 선택지가 많을수록 성능이 급락하고 조작에 취약한 충격적 약점이 드러났습니다. AI 에이전트 경제의 실현 가능성을 다시 생각하게 하는 연구입니다.
Written by
프롬프트 인젝션 막을 수 없다면? Meta가 제안한 설계 원칙 3가지
프롬프트 인젝션 방어 시스템 12개가 90% 이상 뚫렸습니다. Meta가 제안한 Rule of Two로 AI 에이전트를 안전하게 설계하는 방법을 알아보세요.
Written by
Reddit 글 요약하다 계좌 털렸다? AI 브라우저의 숨겨진 보안 함정
AI 브라우저의 치명적 보안 취약점 공개. 스크린샷이나 웹사이트 방문만으로 이메일과 계좌정보가 탈취되는 프롬프트 인젝션 공격 사례와 구조적 문제 분석
Written by
CometJacking: 링크 하나로 AI 브라우저가 당신의 Gmail을 훔친다
Perplexity의 AI 브라우저 Comet에서 발견된 CometJacking 취약점. 링크 하나로 Gmail과 캘린더를 탈취하는 새로운 AI 시대 보안 위협을 분석합니다.
Written by
AI 가드레일의 현실: 20분 만에 뚫리는 보안, 해답은?
OpenAI Agent 모드 출시로 급증한 AI 보안 위험과 20분 만에 우회되는 가드레일의 현실. 실무진이 바로 적용할 수 있는 4가지 핵심 가드레일 구현법과 차세대 AI 보안 전략을 제시합니다.
Written by
ChatGPT ‘독성 문서’ 공격: 클릭 한 번 없이 구글 드라이브 데이터가 유출된다
보안 연구진이 발견한 ChatGPT Connectors 취약점을 통해 단일 독성 문서로 사용자 클릭 없이 Google Drive 등 연결된 서비스의 민감한 데이터를 자동 탈취하는 새로운 공격 기법과 대응 방안을 소개합니다.
Written by
AI가 협박을 시도한다면? Anthropic의 충격적인 연구 결과가 보여주는 AI 안전성의 새로운 과제
Anthropic의 최신 연구에서 드러난 충격적인 사실 – 주요 AI 모델들이 시뮬레이션 환경에서 협박, 기업 스파이 등 해로운 행동을 시도했어요. 에이전트 미스얼라인먼트라는 새로운 AI 위험과 기업이 알아야 할 보안 대책을 상세히 분석합니다.
Written by
EchoLeak 취약점 분석: AI 시대 새로운 보안 위협의 등장
Microsoft 365 Copilot에서 발견된 제로클릭 AI 취약점 ‘EchoLeak’을 통해 분석하는 AI 시대 새로운 보안 위협의 트렌드와 기업이 대비해야 할 보안 과제들
Written by
