언어모델 생성 단계에서 사용자의 입력을 한꺼번에 처리하는 prefill과, 답변을 한 단어씩 만들어내는 decode 각각의 처리량을 말한다.
이 수치가 높을수록 응답 시작이 빠르고 생성 속도가 빠르다.