#Inkling-2-Small

1 stories · 1 in 7 days · 1 in 30 days

MoE 1 Thinking Machines Lab 1 vLLM 1 多模态 1

Stories, products and papers tagged "Inkling-2-Small", newest first.

Nov 13

Models BuildersMulti-source76°05:25

Chinese contentvLLM 第一时间支持 Thinking Machines 的 Inkling-2-Small 模型

Thinking Machines 发了个 500B 的多模态 MoE，vLLM 发布当天就能跑，还带了 FP4 量化和投机解码优化。想自部署大模型的人可以看看集成细节，不用等闭源 API。

#Inkling-2-Small #vLLM #Thinking Machines Lab #MoE

Official accountvLLM@vllm_projectSource