AITOP

本地运行

共 7 条相关 AI 资讯
8月5日
04:07
04:07官方账号Simon Willison@simonw
MiniMax-H3 视频生成模型在 M5 Pro Mac 上运行，生成耗时约 45 分钟。模型下载大小约 115GB。测试提示词为“一只彩虹色的臭鼬跳过超市里长满苔藓的原木”。Simon Willison 在推文中分享了这一结果。
技巧MiniMax-H3M5 Pro视频生成
事件专题
推荐理由：Simon 用 M5 Pro Mac 跑 MiniMax-H3，下载 115GB 后花 45 分钟生成了彩虹臭鼬视频，效果挺有趣。
原文
7月15日
08:37
08:37berryxia@berryxia
PrismML发布Bonsai 27B，这是首个能在手机上本地运行的27B级多模态模型。该模型通过端到端低比特技术，1-bit版本仅3.9GB，可在iPhone 17 Pro上运行；Ternary版本5.9GB，适合笔记本。其智能密度达0.53 per GB，比全精度基线高约10倍，比现有最佳低比特方案高2.7倍。在15个基准测试中，Ternary版平均保留95%性能，1-bit版保留90%，数学、编码和工具调用能力接近原版Qwen3.6 27B。模型已开源（Apache 2.0），支持GGUF格式，提供一键运行Demo和免费开发者预览API。
AI模型Bonsai 27BPrismML多模态
推荐理由：PrismML搞了个Bonsai 27B，在手机上就能跑27B多模态模型，压缩到3.9GB性能还能保留90%，挺牛的，还开源了，可以试试。
原文
7月13日
11:26
11:26官方账号Together AI@togethercompute
Together Compute 发推祝贺 Ollama 完成融资，并称其活跃开发者已超过 900 万。推文指出开源模型正成为开发者构建、运行并拥有 AI 栈的默认路径。Together Compute 表示将支持该生态持续扩展。
行业OllamaTogether Compute开源模型
推荐理由：Ollama 拿到融资了，现在有 900 多万人在用它跑本地模型。开源路线越来越主流，想自己掌控 AI 栈的开发者可以关注。
原文
6月19日
00:02
00:02Geek@geekbb
精选
Unsloth AI 将最强开源模型 GLM-5.2 从 1.51TB 压缩至 238GB（缩小 84%），2-bit 量化版本保留约 82% 准确率。该模型可在 256GB Mac 或同等 RAM/VRAM 配置上本地运行。官方指南和 GGUF 文件已在 Hugging Face 发布。
AI模型GLM-5.2Unsloth本地运行
推荐理由：Unsloth 把 1.5TB 的 GLM-5.2 压到 238GB，本地就能跑，准确率还能保住 82%。有 256GB 内存的 Mac 就能玩，开源模型天花板。
原文
6月17日
11:45
6月4日
06:06
5月15日
01:25
01:25berryxia@berryxia
Tom 兄弟开源了 html-anything，一个用 1.5 万行代码构建的工具，旨在让 AI Agent 将 Markdown、CSV、JSON、图片等 11 种格式直接转换为高质量、专业设计的 HTML。它内置 75 套模板，支持杂志风格、海报、小红书笔记、推文卡片等多种输出形态，并兼容 Claude Code、Cursor 等十几个本地 code agent。工具完全本地运行，无需 API key，边际成本几乎为零，解决了 Agent 输出干巴巴文本的问题。对每天用 Agent 做内容、报告、产品演示的用户来说，这是一个实用的提升。
AI产品开源/仓库AI AgentHTML生成
事件专题
推荐理由：html-anything 补上了 AI Agent 的呈现短板，做内容、报告、产品演示的团队可以直接用它把数据变成专业 HTML，省去手动排版的时间。
原文