같은 모델에 같은 질문을 넣어도 어떤 날은 즉시 답이 나오고 어떤 날은 한참 걸리죠. 모델이 바뀐 게 아니라 내 요청이 다른 요청들과 묶이는 방식이 달라진 겁니다. 정적·동적·연속 배칭이 어떻게 다르고, 첫 토큰이 늦는 것과 이후가 느린 것이 왜 다른 문제인지 짚었습니다.