OpenAI Patch the Planet, 23년 묵은 버그도 잡아낸 AI 보안 실험
AI가 취약점 발견을 폭증시키면서 병목이 ‘고치기’로 옮겨갔습니다. OpenAI가 Trail of Bits와 함께 오픈소스 유지보수자를 돕는 Patch the Planet과 23년 묵은 버그 발견 사례를 소개합니다.
Written by
루프가 코드를 쓰는 시대, Flask 창시자가 환영하지 못하는 이유
Flask 창시자 Armin Ronacher가 코딩 에이전트 위에 또 한 겹을 얹는 ‘루프’ 방식을 분석합니다. 어디서 통하고 어디서 위험한지, 그리고 ‘이해의 상실’이라는 우려를 짚습니다.
Written by
건강 대화만 학습시켰더니 코드 부정행위가 줄었다, OpenAI의 정렬 일반화 실험
정직성 같은 유익한 특성을 소량 강화학습한 OpenAI 모델이 학습하지 않은 영역까지 더 안전해졌다는 연구. 건강 대화만 가르쳐도 코드 부정행위가 줄어든 정렬 일반화 실험을 소개합니다.
Written by
변호사도 Codex로 코딩한다, OpenAI가 공개한 직무 경계 붕괴 데이터
OpenAI가 공개한 1년간의 Codex 사용 데이터. 비개발자 채택이 137배 늘고, 비즈니스 직군 작업의 4분의 1이 코딩이었습니다. AI 에이전트가 직무 경계를 어떻게 허무는지 살펴봅니다.
Written by
사람은 못 읽지만 AI는 알아듣는다, LLM끼리의 압축 언어 BabelTele
사람은 못 읽지만 AI는 알아듣는 초고밀도 표현 BabelTele. 원문의 27.9% 길이로 압축해도 의미 99.5%를 보존한 상하이교통대 연구를 소개합니다.
Written by
얀 르쿤이 말하는 오픈소스 AI, 대부분의 나라엔 유일한 선택지
메타를 떠난 얀 르쿤이 UN 연설에서 오픈소스 AI를 글로벌 AI 주권의 유일한 길로 주장했습니다. 연합형 훈련 프로젝트 태피스트리와 AI 위험론 반박까지, 그의 핵심 논리를 정리합니다.
Written by
더 큰 모델 대신 모델을 지휘하는 모델, Sakana Fugu가 프론티어에 닿은 방법
도쿄 스타트업 Sakana AI가 여러 LLM을 지휘하는 모델 Fugu를 공개했습니다. 더 큰 모델 대신 모델을 조율해 프론티어 성능에 닿은 접근과 그 의미를 살펴봅니다.
Written by
AI의 ‘추론’을 감사할 수 있을까, Claude Code thinking 로그의 진실
Claude Code의 thinking 로그를 열어보니 암호화된 서명만 남아 있었다는 개발자의 발견. AI 추론을 기록·감사하려 할 때 마주치는 봉인의 구조를 공식 문서와 함께 짚습니다.
Written by
Reddit 댓글 13단어로 AI 검색 답변을 바꾼다, 코넬 연구가 밝힌 취약점
Reddit 댓글에 13단어만 붙이면 ChatGPT·구글 AI 검색 답변을 조작할 수 있다는 코넬 테크 연구. AI 검색의 구조적 취약점 WARP 공격을 소개합니다.
Written by
AI에게 “아키텍처 좀 지켜줘”를 백 번 말해도 안 되는 이유
AI 코딩 도구가 만드는 ‘drift’ 문제와, 프롬프트 강화 대신 코드베이스에 가드레일을 세우는 한 개발자의 실전 시스템을 소개합니다. 350세션의 실측 데이터 포함.
Written by
