Broadcom
OpenAI가 직접 만든 추론 칩 Jalapeño, 엔비디아 최신 칩까지 앞질렀다
OpenAI가 처음 만든 추론 전용 칩 Jalapeño가 와트당 처리량과 지연 양쪽에서 엔비디아 Blackwell과 차세대 Rubin을 앞섰습니다. 자사 모델 전용이 아닌 범용 가속기라는 점, 그리고 이 숫자가 내 AI 요금과 응답 속도에 무엇을 의미하는지 짚어봅니다.
Written by

최신 AI 쉽게 깊게 따라잡기⚡
OpenAI가 처음 만든 추론 전용 칩 Jalapeño가 와트당 처리량과 지연 양쪽에서 엔비디아 Blackwell과 차세대 Rubin을 앞섰습니다. 자사 모델 전용이 아닌 범용 가속기라는 점, 그리고 이 숫자가 내 AI 요금과 응답 속도에 무엇을 의미하는지 짚어봅니다.
Written by

최신 게시물 요약과 더 심층적인 정보를 이메일로 받아 보세요! (무료)