Outlines
LLM이 딴소리 못 하게 만드는 법, 제약 디코딩의 원리
프롬프트로 “유효한 JSON만 출력해줘”라고 아무리 부탁해도 100% 보장은 안 됩니다. 제약 디코딩은 아예 스키마를 벗어난 토큰을 뽑을 수 없게 만드는 방식으로 이 문제를 풉니다.
Written by

최신 AI 쉽게 깊게 따라잡기⚡
프롬프트로 “유효한 JSON만 출력해줘”라고 아무리 부탁해도 100% 보장은 안 됩니다. 제약 디코딩은 아예 스키마를 벗어난 토큰을 뽑을 수 없게 만드는 방식으로 이 문제를 풉니다.
Written by

최신 게시물 요약과 더 심층적인 정보를 이메일로 받아 보세요! (무료)