UnslothAI 相关 AI 资讯 · AI 热点

6月13日

13:05

13:05

MiniMax_AI@MiniMax_AI

UnslothAI 支持在本地运行 MiniMax 的 M3 模型，用户可通过其优化工具进行部署。M3 是 MiniMax 发布的多模态模型，支持文本、图像和音频处理。UnslothAI 提供高效的本地推理方案，降低硬件门槛。

AI模型 M3 MiniMax UnslothAI 多模态本地部署

推荐理由：用UnslothAI本地跑M3

5月14日

16:33

16:33

berryxia@berryxia

UnslothAI 创始人 Daniel Han 发布了 Qwen3.6 的实验性 MTP GGUF 版本，通过投机解码技术大幅提升推理速度。27B 模型在单 GPU 上达到 140 tokens/s，35B-A3B 版本更达 220 tokens/s，比原版 GGUF 快 1.4 倍且精度无损。最佳 draft tokens 设为 2，过高会导致接受率下降。这一突破显著提升了本地大模型的性能上限，让消费级显卡能更高效运行 30B+ 参数模型。

AI模型 Qwen3.6 GGUF 投机解码本地推理 UnslothAI

推荐理由：本地大模型性能天花板被再次抬高，玩 llama.cpp、跑本地 Agent 或日常 coding 的开发者可以直接用上，体验 30B+ 模型在消费级显卡上的流畅速度。