PrismML
27B급 AI 모델이 아이폰에 들어갔다, PrismML의 압축 방식
54GB 모델을 3.9GB로 압축해 아이폰에 넣은 PrismML의 Bonsai 27B. 압축 방식과 성능 손실, 로컬 실행이 중요해지는 이유를 정리했습니다.
Written by
Bonsai 8B 등장, 1.15GB로 아이폰에서 돌아가는 8B급 성능의 비밀
PrismML이 공개한 1-bit LLM Bonsai 8B 소개. 1.15GB로 아이폰에서 동작하며 Microsoft BitNet과의 차별점, 인텔리전스 밀도 개념을 정리합니다.
Written by
