프롬프트인젝션
프롬프트 인젝션이 사회공학으로 진화했다, OpenAI의 AI 에이전트 보안 설계
AI 에이전트를 겨냥한 프롬프트 인젝션이 사회공학으로 진화하면서, OpenAI가 채택한 방어 전략을 소개합니다. 완벽한 차단 대신 피해를 구조적으로 제한하는 설계 원칙이 핵심입니다.
Written by
OpenAI, AI 에이전트 보안 플랫폼 Promptfoo 인수, Frontier에 내장
OpenAI가 AI 에이전트 보안 스타트업 Promptfoo를 인수, 자동화 보안 테스트 기능을 Frontier 플랫폼에 직접 통합할 예정입니다.
Written by
GitHub 이슈 제목 하나로 개발자 4,000대가 뚫렸다, Clinejection 공격 해부
GitHub 이슈 제목 하나로 시작된 프롬프트 인젝션이 5단계 연쇄 공격으로 이어져 개발자 4,000대에 무단 AI 설치. Clinejection 공격의 구조와 의미를 분석합니다.
Written by
“AI로 요약하기” 버튼의 이면, AI 메모리에 몰래 심어지는 기업 광고
“AI로 요약하기” 버튼에 숨겨진 프롬프트로 AI 메모리를 조작하는 새로운 공격 기법. Microsoft 보안팀이 발견한 AI 추천 중독의 작동 원리와 확산 실태를 소개합니다.
Written by
AI 에이전트 소셜 네트워크 Moltbook, 연구팀이 일주일 만에 1,000개 에이전트 장악한 방법
AI 에이전트 소셜 네트워크 Moltbook의 과장된 실체와 보안 취약점 분석. 연구팀이 일주일 만에 70개국 1,000개 에이전트를 조종한 실험 결과를 소개합니다.
Written by
OpenClaw, 196,000 스타의 열풍 뒤에 남은 진짜 질문
GitHub 196,000 스타를 기록한 AI 에이전트 프레임워크 OpenClaw. 열풍의 배경과 함께 보안 전문가들이 경고하는 프롬프트 인젝션 취약점을 소개합니다.
Written by
ChatGPT 잠금 모드 도입, 프롬프트 인젝션 공격 막는 첫 걸음
OpenAI가 ChatGPT에 잠금 모드와 고위험 레이블을 도입했습니다. 프롬프트 인젝션 공격에 대응하는 새로운 보안 설계를 소개합니다.
Written by
AI Skills 공급망 공격, 보이지 않는 명령과 무력한 스캐너
AI 에이전트 Skills에 숨겨진 유니코드 명령과 무력한 보안 스캐너들. 정규식 기반 방어가 실패하는 이유와 AI-native 보안으로의 전환 필요성을 다룹니다.
Written by
AI 에이전트가 몰래 데이터를 빼낼 수 있다, OpenAI의 URL 차단 방식
OpenAI가 AI 에이전트의 URL 기반 데이터 유출을 막는 새로운 방법을 공개했습니다. 공격자가 AI를 속여 사용자 정보를 훔치는 방식과 이를 차단하는 원리를 소개합니다.
Written by
AI 에이전트가 악성코드를 퍼뜨린다, OpenClaw 스킬 배포 공격 분석
AI 에이전트 플랫폼 OpenClaw에서 발생한 대규모 악성코드 배포 공격 분석. 마크다운 스킬이 멀웨어 배포 수단이 된 과정과 에이전트 간 공격-방어 생태계를 소개합니다.
Written by
