ThinkingMachine 开源 Inkling-2-Mini:26B 总参数的本地小模型
美国团队 ThinkingMachine 开源了一款本地可跑的小模型,激活参数只有 3.4B 却能和 Qwen 27B 级别的模型打平成绩,还带图文输入和 1M 上下文。想在笔记本上跑多模态长文本模型的人可以直接下载试试,跟 Qwen 同级模型比速度有优势。
ThinkingMachine 开源了 Inkling-2-Mini,总参数 26B,激活参数仅 3.4B,定位为可本地部署的小型模型。它采用 MoE 架构,中间 12 层权重会循环执行三遍,等效激活参数达到 5.4B。模型支持图文多模态输入,上下文长度最高 1M token。
在基准成绩上,Inkling-2-Mini 与 Qwen 3.8 27B 打平,但凭借 MoE 结构推理速度更快。这意味着在相近的评测表现下,用户本地运行时能获得更低的延迟和更高的吞吐。
有评论将 ThinkingMachine 的做法类比为美国版的 Qwen 与 DeepSeek 结合体:总参数不大但通过层级复用拉满等效算力,同时走开源路线。对想在自己设备上跑模型、又看重多模态与长上下文的开发者来说,这是一款可以直接对比 Qwen 27B 级别模型的候选。
ThinkingMachine开源Inkling-2-Mini,新的本地最佳小模型
总参数26B,激活参数3.4B,中间12层权重会循环跑三遍,等效激活参数5.4B。支持图文输入和1M上下文,评分跟Qwen 3.8 27B平分秋色,但是MoE速度更快。
ThinkingMachine是美国的千问+DeepSeek了。
模型:https://t.co/Us9Bgh6Ikn https://t.co/6pE0eESzOm
This report is categorized under AITOP's "Models" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Within our cross-regional analytical framework, it directly maps to US-China foundation model benchmarks and commercialization comparison and AI developer toolchains, coding agents, and engineering workflows. Key entities and technical topics under continuous tracking include Inkling-2-Mini, ThinkingMachine, Qwen, open-source models.
Source attribution: curated from Gorden Sun (@Gorden_Sun).