thinkymachines开源Inkling：975B总参/41B激活MoE，1M上下文多模态

Inkling是thinkymachines发布的首个开源MoE模型，总参数量975B，激活参数41B。它支持最高1M上下文长度，原生处理文本、图像和音频。该模型已获得SGLang和Miles的Day 0支持，采用短卷积、相对位置嵌入注意力和共享专家sink MoE等新架构。推理优化包括DFlash投机解码和MXFP8 KV缓存，并支持全参数和LoRA RL训练。