대형언어모델
-
효율적인 AI 추론을 위한 새로운 접근법: Chain of Draft
대형 언어 모델(LLM)의 추론 효율성을 높이는 새로운 기법인 Chain of Draft에 대해 소개합니다. 기존의 Chain of Thought보다 토큰 사용량을 최대 92%까지 줄이면서도 비슷하거나 더 나은 정확도를 제공하는 이 혁신적인 접근법의 원리와 활용법에 대해 알아봅니다.
Written by
-
AI 모델의 사고 과정 추적: 앤트로픽의 놀라운 연구 성과
앤트로픽이 개발한 ‘회로 추적’ 기술로 AI 모델 클로드의 내부 사고 과정을 들여다볼 수 있게 되었습니다. 다국어 처리, 시 작성 시 계획, 암산 전략, 사실기억과 환각 발생 메커니즘 등 놀라운 발견들을 살펴봅니다.
Written by
