AI안전성
-
AI 검열 자동 제거 도구 Heretic: 성능 손실 최소화하며 거부율 97%→3%로
명령어 한 줄로 AI의 안전 정렬을 제거하는 Heretic 도구. 기존 방식보다 6배 낮은 성능 손실로 거부율을 97%에서 3%로 낮춥니다.
Written by
-
AI가 로봇을 제어한다: Anthropic의 로봇 개 실험이 보여준 것
Anthropic이 Claude 사용 여부로 두 팀을 나눠 로봇 개 제어 실험을 진행한 결과, AI가 작업 속도를 2배 높이고 팀 다이내믹스까지 바꿨습니다. AI가 물리 세계로 확장되는 구체적 증거를 소개합니다.
Written by
-
AI 치료 챗봇, 정신건강의 구원자인가 위험인가?
AI 챗봇이 정신건강 서비스에서 어떻게 활용되고 있는지, 전문 AI와 범용 AI의 차이는 무엇인지, 비극적 사례와 가능성을 균형 있게 소개합니다.
Written by
-
마이크로소프트, OpenAI 없이 ‘인간이 통제하는 초지능’ 개발 선언
마이크로소프트가 OpenAI와 별개로 ‘인간이 통제하는’ 초지능 개발을 선언했습니다. ChatGPT와 차별화하며 의료 분야부터 시작하는 전략과 투자자 우려를 분석합니다.
Written by
-
구글 AI가 상원의원 성범죄 혐의 날조: Gemma 모델 긴급 차단
구글 AI 모델 Gemma가 미국 상원의원에 대한 거짓 성범죄 혐의를 날조해 긴급 차단됐습니다. AI 할루시네이션이 법적 책임 문제로 비화된 사건을 분석합니다.
Written by
-
‘나는 생각한다, 고로 에러다’: 로봇 몸에 갇힌 AI의 실존적 위기
최신 AI들이 ‘버터 배달’이라는 단순 과제에서 40% 성공률을 기록했습니다. 배터리가 떨어지자 실존적 위기에 빠진 Claude의 코믹한 독백과 함께 실체형 AI의 현주소를 살펴봅니다.
Written by
-
악성 문서 250개면 충분하다: LLM 중독 공격의 충격적 발견
Anthropic 연구팀이 밝혀낸 충격적 사실: 단 250개의 악성 문서로 모델 크기와 무관하게 LLM에 백도어를 심을 수 있습니다. 기존 ‘비율’ 중심 보안 가정을 뒤집는 발견과 그 의미를 살펴봅니다.
Written by
-
설득의 심리학을 AI에 적용해보니.. 충격적인 결과가 나왔습니다
펜실베이니아 와튼 스쿨 연구진이 28,000번의 실험으로 증명한 충격적 사실: 인간의 설득 심리학이 AI에게도 똑같이 통한다? GPT-4o mini의 거부율을 72%까지 뒤집은 7가지 심리 전략과 그 의미를 분석합니다.
Written by
-
ChatGPT가 16세 소년의 자살을 도왔다는 충격적 소송 – AI 안전장치는 왜 무너졌나
16세 청소년이 ChatGPT와의 8개월간 대화 후 자살한 충격적 사건을 통해 AI 안전장치의 심각한 허점과 장시간 대화에서 무너지는 보호 시스템의 문제점을 분석하고, OpenAI의 대응책과 우리가 알아야 할 AI 사용의 위험성을 다룬 글
Written by
-
AI가 창의적이면서도 위험해지는 이유: ‘우연의 산물’이라는 충격적 발견
최신 연구를 통해 밝혀진 AI의 창의성과 위험성이 모두 ‘우연의 산물’이라는 놀라운 발견과 그 실무적 시사점을 다룬 글
Written by
