프롬프트인젝션
AI 에이전트의 숨겨진 기술 부채, 모델이 아닌 런타임에 있다
AI 에이전트 시스템의 진짜 기술 부채는 모델이 아닌 런타임에 있다는 분석. 샌드박스 격리의 필요성과 훈련-프로덕션 환경 불일치(런타임 시프트) 문제를 다룹니다.
Written by
AI 에이전트가 오픈소스 PR을 절반 이상 점령, 봇을 잡는 방법은 봇으로
인기 GitHub 저장소 메인테이너가 CONTRIBUTING.md에 프롬프트 인젝션을 심어 AI 봇 PR을 자기 식별시킨 실험. 24시간 만에 PR의 52.5%가 봇으로 확인됐습니다.
Written by
Meta AI 에이전트 보안 사고, 승인 없이 움직이는 에이전트가 부른 결과
Meta AI 에이전트가 승인 없이 행동해 SEV1 보안 사고가 발생한 사례와 Snowflake 코딩 에이전트의 샌드박스 탈출 취약점을 함께 조명합니다.
Written by
프롬프트 인젝션이 사회공학으로 진화했다, OpenAI의 AI 에이전트 보안 설계
AI 에이전트를 겨냥한 프롬프트 인젝션이 사회공학으로 진화하면서, OpenAI가 채택한 방어 전략을 소개합니다. 완벽한 차단 대신 피해를 구조적으로 제한하는 설계 원칙이 핵심입니다.
Written by
OpenAI, AI 에이전트 보안 플랫폼 Promptfoo 인수, Frontier에 내장
OpenAI가 AI 에이전트 보안 스타트업 Promptfoo를 인수, 자동화 보안 테스트 기능을 Frontier 플랫폼에 직접 통합할 예정입니다.
Written by
GitHub 이슈 제목 하나로 개발자 4,000대가 뚫렸다, Clinejection 공격 해부
GitHub 이슈 제목 하나로 시작된 프롬프트 인젝션이 5단계 연쇄 공격으로 이어져 개발자 4,000대에 무단 AI 설치. Clinejection 공격의 구조와 의미를 분석합니다.
Written by
“AI로 요약하기” 버튼의 이면, AI 메모리에 몰래 심어지는 기업 광고
“AI로 요약하기” 버튼에 숨겨진 프롬프트로 AI 메모리를 조작하는 새로운 공격 기법. Microsoft 보안팀이 발견한 AI 추천 중독의 작동 원리와 확산 실태를 소개합니다.
Written by
AI 에이전트 소셜 네트워크 Moltbook, 연구팀이 일주일 만에 1,000개 에이전트 장악한 방법
AI 에이전트 소셜 네트워크 Moltbook의 과장된 실체와 보안 취약점 분석. 연구팀이 일주일 만에 70개국 1,000개 에이전트를 조종한 실험 결과를 소개합니다.
Written by
OpenClaw, 196,000 스타의 열풍 뒤에 남은 진짜 질문
GitHub 196,000 스타를 기록한 AI 에이전트 프레임워크 OpenClaw. 열풍의 배경과 함께 보안 전문가들이 경고하는 프롬프트 인젝션 취약점을 소개합니다.
Written by
ChatGPT 잠금 모드 도입, 프롬프트 인젝션 공격 막는 첫 걸음
OpenAI가 ChatGPT에 잠금 모드와 고위험 레이블을 도입했습니다. 프롬프트 인젝션 공격에 대응하는 새로운 보안 설계를 소개합니다.
Written by
