설정
문체에 따라 토큰 밀도가 달라집니다.
모델이 첫 글자를 내놓기 전까지의 침묵. 디코딩 속도와 별개입니다.
스트리밍 비교
시스템 설정이 「모션 줄이기」라서 애니메이션 대신 시간대별 스냅샷으로 보여줍니다.
tok/s가 내 언어에서 실제로 얼마나 빠른지, 내가 읽는 속도에 견줘 재봅니다.
문체에 따라 토큰 밀도가 달라집니다.
모델이 첫 글자를 내놓기 전까지의 침묵. 디코딩 속도와 별개입니다.
시스템 설정이 「모션 줄이기」라서 애니메이션 대신 시간대별 스냅샷으로 보여줍니다.