18:01IT之家（博客/媒体）
精选
推荐理由：蚂蚁百灵开源了个轻量推理模型，7.9B 参数但每 Token 只激活 1.3B，Mac mini 上跑得飞快，适合本地部署。
Ling-3.0-tiny
共 1 条相关 AI 资讯
8月11日
18:01
蚂蚁百灵在 Hugging Face 开源 Ling-3.0-tiny 模型，总参数 7.9B，每 Token 激活 1.3B 参数，采用混合推理 MoE 架构。该模型将 KDA 和 MLA 按 3:1 比例交替堆叠，包含 128 个路由专家，兼顾上下文处理与计算成本。官方提供 BF16、FP8 和 INT4 权重版本，适配不同平台。在 M4 Pro MacBook 上推理速度约 86-90 Token/s，8K 上下文峰值内存约 8.34 GiB。