온디바이스AI
애플 신형 음성 인식, Whisper Small을 정확도와 속도 둘 다 앞섰다
애플 신형 음성 인식 API가 Whisper Small을 정확도·속도 모두에서 앞섰다는 첫 실측 벤치마크. 5,559개 발화로 검증한 결과를 정리합니다.
Written by
Gemma 4 12B, 인코더 없이 멀티모달 처리하는 노트북용 AI 모델
구글 딥마인드가 공개한 Gemma 4 12B는 이미지·오디오 인코더를 없앤 통합 아키텍처로 16GB 노트북에서 26B급 성능을 냅니다.
Written by
Chrome 온디바이스 임베딩 API, RAG와 시맨틱 서치를 브라우저 안으로
Chrome Built-in AI 팀이 브라우저 내장 임베딩 API를 제안했습니다. 클라우드 없이 온디바이스에서 시맨틱 서치와 RAG를 구현하는 새로운 접근을 소개합니다.
Written by
앱에 AI를 붙이기 전에 물어야 할 것, “꼭 서버로 보내야 하나요?”
앱에 클라우드 AI를 기본값으로 붙이는 관성을 비판하고, Apple FoundationModels로 기기 내에서 AI를 처리하는 방식의 실익을 소개합니다.
Written by
Gemma 4가 증명한 것, AI 모델은 이제 하나의 설계로 모든 곳을 커버할 수 없다
Google Gemma 4가 엣지와 서버를 아예 다른 아키텍처로 설계한 이유. 하드웨어 제약이 AI 모델 설계를 어떻게 바꾸고 있는지 분석합니다.
Written by
Apple 스마트글래스, AI 패자가 반전을 노리는 이유
Apple이 디스플레이 없는 AI 스마트글래스 N50을 개발 중입니다. AI 모델 범용화 시대에 Apple의 컨텍스트 전략이 오히려 강점이 될 수 있는 이유를 살펴봅니다.
Written by
Bonsai 8B 등장, 1.15GB로 아이폰에서 돌아가는 8B급 성능의 비밀
PrismML이 공개한 1-bit LLM Bonsai 8B 소개. 1.15GB로 아이폰에서 동작하며 Microsoft BitNet과의 차별점, 인텔리전스 밀도 개념을 정리합니다.
Written by
Gemma 4, 스마트폰에서 돌아가는 에이전트 오픈 모델 출시
Google DeepMind가 공개한 Gemma 4는 스마트폰과 라즈베리파이에서 자율 에이전트를 실행하는 오픈 모델 패밀리입니다. Apache 2.0 라이선스로 상업적 활용이 자유롭습니다.
Written by
ChatGPT 광고 시대 개막, AI 어시스턴트가 광고 회사가 되는 구조적 이유
AI 어시스턴트를 만드는 모든 주요 기업이 광고 기반 수익 모델을 갖고 있다는 구조적 문제와, 온디바이스 추론이 유일한 건축적 해답인 이유를 짚습니다.
Written by
LiteRT, 온디바이스 AI의 새로운 표준
Google LiteRT, TFLite 대비 GPU 1.4배·NPU 100배 빠른 온디바이스 AI 프레임워크. PyTorch 직접 변환과 크로스플랫폼 통합으로 모바일 AI 배포를 단순화합니다.
Written by
