AI보안
-
프롬프트 인젝션 막을 수 없다면? Meta가 제안한 설계 원칙 3가지
프롬프트 인젝션 방어 시스템 12개가 90% 이상 뚫렸습니다. Meta가 제안한 Rule of Two로 AI 에이전트를 안전하게 설계하는 방법을 알아보세요.
Written by
-
GPT-5 기반 Aardvark, 취약점 92% 탐지하며 보안 연구의 새 기준 제시
OpenAI가 GPT-5 기반 자율형 보안 연구 에이전트 Aardvark를 공개했습니다. 벤치마크 테스트에서 92% 취약점 탐지율을 기록하며 인간 보안 연구자처럼 코드를 읽고 분석하는 새로운 접근 방식을 제시합니다.
Written by
-
Reddit 글 요약하다 계좌 털렸다? AI 브라우저의 숨겨진 보안 함정
AI 브라우저의 치명적 보안 취약점 공개. 스크린샷이나 웹사이트 방문만으로 이메일과 계좌정보가 탈취되는 프롬프트 인젝션 공격 사례와 구조적 문제 분석
Written by
-
CometJacking: 링크 하나로 AI 브라우저가 당신의 Gmail을 훔친다
Perplexity의 AI 브라우저 Comet에서 발견된 CometJacking 취약점. 링크 하나로 Gmail과 캘린더를 탈취하는 새로운 AI 시대 보안 위협을 분석합니다.
Written by
-
악성 문서 250개면 충분하다: LLM 중독 공격의 충격적 발견
Anthropic 연구팀이 밝혀낸 충격적 사실: 단 250개의 악성 문서로 모델 크기와 무관하게 LLM에 백도어를 심을 수 있습니다. 기존 ‘비율’ 중심 보안 가정을 뒤집는 발견과 그 의미를 살펴봅니다.
Written by
-
Google이 공개한 VaultGemma: 개인정보를 지키는 AI 모델 혁신
Google이 공개한 세계 최초의 차등 프라이버시 기반 언어 모델 VaultGemma의 기술적 혁신과 실용적 활용 방안을 소개합니다.
Written by
-
AI 가드레일의 현실: 20분 만에 뚫리는 보안, 해답은?
OpenAI Agent 모드 출시로 급증한 AI 보안 위험과 20분 만에 우회되는 가드레일의 현실. 실무진이 바로 적용할 수 있는 4가지 핵심 가드레일 구현법과 차세대 AI 보안 전략을 제시합니다.
Written by
-
ChatGPT ‘독성 문서’ 공격: 클릭 한 번 없이 구글 드라이브 데이터가 유출된다
보안 연구진이 발견한 ChatGPT Connectors 취약점을 통해 단일 독성 문서로 사용자 클릭 없이 Google Drive 등 연결된 서비스의 민감한 데이터를 자동 탈취하는 새로운 공격 기법과 대응 방안을 소개합니다.
Written by
-
ChatGPT 공유 채팅 10만 건이 구글에 노출된 사건: AI 시대 개인정보보호의 새로운 딜레마
2025년 ChatGPT 공유 기능 오작동으로 10만 건의 개인 대화가 구글에 노출된 사건을 통해 AI 시대 개인정보보호의 새로운 위험성과 사용자·기업이 알아야 할 실용적 대응 방안을 제시합니다.
Written by
-
고양이 한 마리가 수학 문제를 망친다? CatAttack이 보여준 AI 추론 모델의 치명적 약점
무해해 보이는 “고양이 사실” 문구 하나로 최첨단 AI 추론 모델의 오답률을 300% 증가시킬 수 있다는 충격적인 CatAttack 연구 결과를 분석하고, AI 시스템의 예상치 못한 취약점과 그 대응 방안을 제시한 글입니다.
Written by
