온디바이스AI
Chrome 온디바이스 임베딩 API, RAG와 시맨틱 서치를 브라우저 안으로
Chrome Built-in AI 팀이 브라우저 내장 임베딩 API를 제안했습니다. 클라우드 없이 온디바이스에서 시맨틱 서치와 RAG를 구현하는 새로운 접근을 소개합니다.
Written by
앱에 AI를 붙이기 전에 물어야 할 것, “꼭 서버로 보내야 하나요?”
앱에 클라우드 AI를 기본값으로 붙이는 관성을 비판하고, Apple FoundationModels로 기기 내에서 AI를 처리하는 방식의 실익을 소개합니다.
Written by
Gemma 4가 증명한 것, AI 모델은 이제 하나의 설계로 모든 곳을 커버할 수 없다
Google Gemma 4가 엣지와 서버를 아예 다른 아키텍처로 설계한 이유. 하드웨어 제약이 AI 모델 설계를 어떻게 바꾸고 있는지 분석합니다.
Written by
Apple 스마트글래스, AI 패자가 반전을 노리는 이유
Apple이 디스플레이 없는 AI 스마트글래스 N50을 개발 중입니다. AI 모델 범용화 시대에 Apple의 컨텍스트 전략이 오히려 강점이 될 수 있는 이유를 살펴봅니다.
Written by
Bonsai 8B 등장, 1.15GB로 아이폰에서 돌아가는 8B급 성능의 비밀
PrismML이 공개한 1-bit LLM Bonsai 8B 소개. 1.15GB로 아이폰에서 동작하며 Microsoft BitNet과의 차별점, 인텔리전스 밀도 개념을 정리합니다.
Written by
Gemma 4, 스마트폰에서 돌아가는 에이전트 오픈 모델 출시
Google DeepMind가 공개한 Gemma 4는 스마트폰과 라즈베리파이에서 자율 에이전트를 실행하는 오픈 모델 패밀리입니다. Apache 2.0 라이선스로 상업적 활용이 자유롭습니다.
Written by
ChatGPT 광고 시대 개막, AI 어시스턴트가 광고 회사가 되는 구조적 이유
AI 어시스턴트를 만드는 모든 주요 기업이 광고 기반 수익 모델을 갖고 있다는 구조적 문제와, 온디바이스 추론이 유일한 건축적 해답인 이유를 짚습니다.
Written by
LiteRT, 온디바이스 AI의 새로운 표준
Google LiteRT, TFLite 대비 GPU 1.4배·NPU 100배 빠른 온디바이스 AI 프레임워크. PyTorch 직접 변환과 크로스플랫폼 통합으로 모바일 AI 배포를 단순화합니다.
Written by
바나나가 베리일까? AI 검색의 진화를 보여준 2025년 구글 트렌드
바나나가 베리인지 묻는 질문이 2025년 검색 트렌드가 된 이유. 구글 Gemini Nano가 보여주는 온디바이스 AI의 실용성과 검색 행태의 변화를 소개합니다.
Written by
iPhone에서 AI 모델 돌리기: Unsloth가 5분 만에 가능하게 만든 방법
Unsloth가 LLM을 스마트폰에 5분 만에 배포하는 기능을 출시했습니다. iPhone에서 Llama 3.2가 초당 25토큰으로 작동하며, 완전한 프라이버시를 보장합니다.
Written by
