엣지AI
Mistral 3: 노트북에서 돌아가는 675B 파라미터 AI의 등장
Mistral AI가 노트북에서도 실행되는 10개의 오픈소스 모델 패밀리 Mistral 3를 공개. 클라우드 중심 AI에 도전하는 분산 AI 전략을 소개합니다.
Written by
AI 투자의 블루오션은 실리콘밸리가 아니라 식당과 건설 현장에 있다
모두가 ChatGPT에 열광할 때 진짜 돈은 식당·건설·농업에 있다. AI 비용 붕괴로 82억 달러 시장이 열리는 지금, 투자 타이밍과 재중앙화 위험을 분석합니다.
Written by
LEAF: 23M 파라미터로 OpenAI 임베딩 성능 97% 달성, CPU만으로 작동
MongoDB가 공개한 LEAF 프레임워크는 대형 임베딩 모델을 5~15배 압축하면서도 성능 97%를 유지합니다. GPU 없이 CPU만으로 고성능 RAG 구현이 가능해졌습니다.
Written by
구글 Coral NPU 공개: 스마트워치에서 LLM 돌리는 오픈소스 AI 칩
구글이 공개한 Coral NPU는 스마트워치에서 LLM을 구동할 수 있는 오픈소스 AI 칩 아키텍처. 수 밀리와트로 512 GOPS 성능을 내며 엣지 AI의 파편화 문제를 해결합니다.
Written by
