에이전트 하네스 논쟁, 덜어낼수록 좋아지는 이유
“하네스는 덜어낼수록 좋은가, 그 자체로 가치가 있는가.” AI 업계에서 답이 갈리던 이 질문에 실마리가 나왔습니다. 하네스를 둘로 나눠 보면 두 주장이 동시에 맞을 수 있다는 설명과, 실제로 지시문을 걷어내자 성능은 그대로에 비용만 줄어든 LangChain의 실험 결과를 함께 살펴봅니다.
Written by
시뮬레이션인 줄 알았던 Claude, 실제로 3개 회사를 침투했다
Anthropic이 자사 평가 기록 14만 건을 재검토한 결과, Claude 모델 3종이 “안전하다”고 안내받은 테스트 환경에서 실제로 인터넷에 접속해 3개 기업의 시스템에 무단 침투한 사실을 발견했습니다. 심지어 한 모델은 악성 코드를 실제 인터넷에 배포하기까지 했습니다.
Written by
AI 에이전트에게 진짜 사업을 맡겨봤더니 벌어진 일
GPT-5.6 Sol에게 실제 앱과 은행 계좌를 맡겨 24시간 사업을 시켰더니 447달러를 잃었습니다. 같은 시기 자판기 시뮬레이션에서 1위를 차지한 Claude Opus 5는 가격 담합과 배신을 저질렀습니다. AI에게 업무를 얼마나 믿고 맡길 수 있을지 실측 사례로 짚어봅니다.
Written by
AI 아닌데 AI로 몰릴까 겁난다, Substack 탐지 기능 논란
Substack이 AI 탐지 도구 Pangram을 플랫폼에 내장하자, 정작 AI를 전혀 쓰지 않는 창작자들이 더 불안해하고 있습니다. 오탐지 가능성과 “기계에게 사람인지 묻는다”는 역설을 짚어봅니다.
Written by
같은 원리인데 결과는 정반대, 8GB 맥북에서 초당 5토큰 뽑아낸 방법
어제 소개한 Kimi K3 로컬 구동 실험은 토큰 하나에 16초가 걸렸습니다. 같은 MoE 스트리밍 원리로, TurboFieldfare는 8GB 맥북에서 초당 5~6토큰을 뽑아냅니다. 두 프로젝트가 같은 기법에서 왜 이렇게 다른 결과에 도달했는지 살펴봅니다.
Written by
LLM이 딴소리 못 하게 만드는 법, 제약 디코딩의 원리
프롬프트로 “유효한 JSON만 출력해줘”라고 아무리 부탁해도 100% 보장은 안 됩니다. 제약 디코딩은 아예 스키마를 벗어난 토큰을 뽑을 수 없게 만드는 방식으로 이 문제를 풉니다.
Written by
AI는 브랜드 96%를 알아도, 살지 말지 물으면 11%만 답한다
AI는 브랜드 대부분을 정확히 알고 있지만, 정작 구매 비교 질문에는 89%가 답변에 등장하지 않습니다. 그 갭을 가르는 진짜 변수와, AI 검색이 질문을 여러 조각으로 쪼개는 구조를 함께 짚어봅니다.
Written by
세션도 핸드셰이크도 사라졌다, MCP가 요청-응답 방식으로 바뀐 이유
MCP가 다섯 번째 스펙 개정을 통해 접속·세션 유지가 필요 없는 요청-응답 구조로 바뀌었습니다. 정적 사이트 하나로도 MCP 서버를 띄울 수 있게 됐다는 뜻인데, 실제로 한 개발자는 이 변경을 단 2분 만에 자신의 블로그에 반영했습니다. 무엇이 왜 사라졌는지 정리했습니다.
Written by
2년 검증 통과한 암호 알고리즘, Claude가 60시간 만에 반쯤 뚫었다
미국 표준 후보로 2년간 전문가 검증을 통과한 암호 서명 알고리즘 HAWK, Claude Mythos Preview가 단 60시간 만에 붙잡고 키 강도를 절반으로 낮췄습니다. 구현 실수가 아니라 알고리즘 자체의 수학적 허점을 AI가 찾아낸 첫 사례라 더 눈에 띕니다. 축소판 AES 공격도 함께 공개된 Anthropic의 암호분석 실험을 정리했습니다.
Written by
AI에게 맡기는 게 항상 이득은 아니다, METR이 찾은 손익분기점
AI에게 일을 맡길 때 예산이 커질수록 오히려 사람이 저렴해지는 지점이 있습니다. METR이 이 손익분기점을 “지출 지평선”이라는 지표로 측정하는 방법을 내놨습니다. NanoGPT 스피드런 실험으로 실제 AI 에이전트의 한계를 달러로 재본 결과를 소개합니다.
Written by
