오픈모델
5분 만에 세팅한 오픈모델, 내 엔드포인트를 갖는 게 이렇게 좋을 줄 몰랐다
클로드·챗GPT만 쓰던 개발자가 오픈모델 엔드포인트를 5분 만에 세팅해보고 느낀 뜻밖의 해방감. 오픈웨이트 모델의 매력이 성능이 아니라 소유감일 수 있다는 개인 경험담을 소개합니다.
Written by
취약점 탐지에 대형 AI가 필요 없다는 걸 증명한 모델들
Cisco의 3억5천만 파라미터 모델이 GPT-5.5보다 빠르고 저렴하게 코드 취약점을 찾아냈다, 크기보다 특화 학습이 이긴 사례.
Written by
Kimi K3와 Fable 5 함께 쓰면, 비용은 최대 50배 줄고 정확도는 오른다
Kimi K3와 Fable 5를 작업별로 나눠 쓰는 라우팅 전략이 비용을 최대 50배 줄이면서도 정확도는 오히려 높인다는 Fireworks AI 벤치마크 결과.
Written by
Kimi K3, 프론트엔드 코드는 1위인데 어려운 수학은 39점
Kimi K3가 프론트엔드 코드 벤치마크는 1위, 고난도 수학은 39점에 그친 이유와 벤치마크 순위가 알려주지 않는 것을 다룹니다.
Written by
Kimi K3, 이틀 만에 자기 자신을 위한 반도체 칩을 설계했다
오픈모델 최초 3조 파라미터급 Kimi K3. 자기 자신을 위한 칩을 48시간 만에 설계한 사례와 남은 한계를 정리했습니다.
Written by
27B급 AI 모델이 아이폰에 들어갔다, PrismML의 압축 방식
54GB 모델을 3.9GB로 압축해 아이폰에 넣은 PrismML의 Bonsai 27B. 압축 방식과 성능 손실, 로컬 실행이 중요해지는 이유를 정리했습니다.
Written by
에이전트 ‘루프’가 갑자기 통하는 이유, 뒤집힌 토큰의 계산법
AI 에이전트를 오래 돌릴수록 결과가 좋아지는 ‘복리 정확성’ 국면 전환과, 이 변화가 ‘루프’ 방식을 통하게 만든 이유를 짚습니다. 토큰을 더 쓰는 게 손해라는 직관은 더 이상 자동으로 맞지 않습니다.
Written by
Gemma 4 12B, 인코더 없이 멀티모달 처리하는 노트북용 AI 모델
구글 딥마인드가 공개한 Gemma 4 12B는 이미지·오디오 인코더를 없앤 통합 아키텍처로 16GB 노트북에서 26B급 성능을 냅니다.
Written by
Gemma 4 추론 속도 3배 높인 MTP 드래프터, 작동 원리는
Google이 Gemma 4에 MTP 드래프터를 추가해 품질 손실 없이 최대 3배 추론 속도를 달성했습니다. Speculative Decoding의 작동 원리와 개발자에게 갖는 의미를 설명합니다.
Written by
NVIDIA Nemotron 3 Nano Omni, 멀티모달 에이전트 처리량 9배 높인 방법
NVIDIA Nemotron 3 Nano Omni는 텍스트·이미지·영상·오디오를 단일 모델로 처리하는 오픈 멀티모달 모델입니다. 파편화된 에이전트 체인 구조를 통합해 처리량을 최대 9배 높인 방법을 소개합니다.
Written by
