혹시 50t 1등(으)로 찾으셨나요?

블로그

• 모델 변경 원래 qwen3.6 27b가 gemma4 31b보다 입력컨텍스트가 작을 때는 10-20% 정도 빠르지만, 컨텍스트가 150k-200k 정도 되면 프리필도 디코딩도 다 느려지기 때문에 (프리필은 200k에서 평균 50t/s 정도가 되고, 디코딩은 2t/s 정도가 된다 - 맥스튜디오 m2 울....... blog.naver.com · 2026.06.20