精选理由
NVIDIA新出的Qwen3.6-27B模型，4位量化体积小很多但精度没怎么降，SGLang直接就能用，可以去试试。
NVIDIA推出Qwen3.6-27B-NVFP4模型，采用4位浮点量化，模型大小仅为BF16版本的约1/2.5。该模型在MMLU Pro基准上达到86.3分，与FP8版本性能几乎无损。上下文长度完整保留262K。SGLang已提供Day-0支持，并附带cookbook。
AI 翻译 · 中文
NVIDIA推出Qwen3.6-27B-NVFP4模型，采用4位浮点量化，模型大小仅为BF16版本的约1/2.5。该模型在MMLU Pro基准上达到86.3分，与FP8版本性能几乎无损。上下文长度完整保留262K。SGLang已提供Day-0支持，并附带cookbook。
🎉Meet Qwen3.6-27B-NVFP4 from @nvidia, and Day-0 support is live in SGLang! ☑️ ~2.5x smaller than BF16 with 4-bit float weights ☑️ Near-lossless: 86.3 MMLU Pro, matching FP8 ☑️ Full 262K context preserved Cookbook a…