8月16日
17:32
17:32官方账号阿里通义 Qwen@Alibaba_Qwen
精选
Qwen3.8-27B现可在笔记本上本地运行,Atomic Chat发布了Dynamic GGUF量化版本。量化范围从8位(28.9GB)到1位(8.5GB)。其中AD-IQ3_S能在16GB MacBook Air上运行,与BF16原版有92.4%的token一致性。该模型已开始融入工作和日常生活。
事件专题

推荐理由:阿里官方转发,Atomic Chat把Qwen3.8-27B量化到1位,8.5GB就能跑,16GB MacBook Air上还能保持92.4%的一致性。
8月15日
19:59
19:59官方一手Sebastian Raschka: Ahead of AI@Sebastian Raschka, PhD
这篇教程演示了如何从零构建AI文本检测器。项目流程包括数据集构建、模型训练、本地部署和RLVR。教程以实际项目为载体,适合想学习RLVR应用的人。

推荐理由:从零搭AI文本检测器的完整教程,含数据集、训练、部署和RLVR,适合想亲手走一遍流程的朋友。
12:33
12:33官方账号阿里通义 Qwen@Alibaba_Qwen
Qwen3.8-27B是阿里开源模型,目前可在NVIDIA RTX Spark上本地运行。开发者能够直接下载、部署这款27B模型,并基于它构建应用。推文显示该模型在RTX Spark上运行流畅,为本地AI开发提供了新选择。
事件专题

推荐理由:阿里把Qwen3.8-27B开源了,还能在RTX Spark上本地跑,下载就能部署,不用走云端。
12:33
12:33官方账号阿里通义 Qwen@Alibaba_Qwen
精选
阿里 Qwen 团队发布 Qwen3.8-27B,定位为适合笔记本的模型,但能力达到前沿水平。该模型已上线 LM Studio,用户可直接下载体验。本地运行约需 17GB 存储空间,门槛较低。官方称其在同等尺寸模型中实现能力跃升。
事件专题

推荐理由:Qwen 出的新模型,27B 参数在笔记本上就能跑,LM Studio 里直接下,想本地玩大模型的可以试试。
02:02
02:02官方账号阿里通义 Qwen@Alibaba_Qwen
阿里通义千问推出 Qwen3.8-27B 密集模型,定位本地 AI 开发。AMD 提供首日支持,可在 Ryzen AI Max+ 处理器或单张 Radeon AI PRO R9700 显卡上运行。开发者可通过 LM Studio 直接体验,并用 lemonade_server 将模型封装成应用。
事件专题

推荐理由:AMD 用户能第一时间在自家电脑上跑 27B 模型,用 LM Studio 就能玩,还能快速做成应用。
8月13日
17:51
17:51andrew chen@andrewchen
Andrew Chen 在 X 上分享 Deepseek v4 flash 0731 在双 DGX Spark 上的本地运行体验。他表示生成速度约为 50 tok/s,首字延迟(TTFT)很低。他认为这是目前最适合 prosumer 级用户的本地 AI 配置。
事件专题

推荐理由:Andrew Chen 说这套是目前最强家用本地 AI 配置:双 DGX Spark 跑 Deepseek v4 flash 0731 约 50 tok/s。
8月7日
16:16
16:16Geek@geekbb
Alec Fong 在单台 GB300 DGX Station 上部署 DeepSeek V4 Flash,测得聚合峰值吞吐 1875 tok/s,单流 300 tok/s,128k 上下文下首 token 延迟 5 秒。推文感叹能在家部署该模型的人相当于 80 年代万元户,令人羡慕。
事件专题

推荐理由:有人晒了 DeepSeek V4 Flash 在 DGX Station 上的实测数据,单机每秒能跑 1875 个 token,128k 上下文首字只要 5 秒,你可以拿这个数去衡量本地部署值不值。
01:20
01:20Geek@geekbb
精选71°
Unsloth AI推出DSpark加速方案,让DeepSeek-V4-Flash-0731的GGUF模型在本地生成速度提升约1.4至2倍。根据Unsloth官方实测,该模型在本地可达到每秒120 tokens,精度没有变化。相关GGUF文件已发布在Hugging Face上,完整指南见Unsloth官方文档。
事件专题

推荐理由:Unsloth搞了个DSpark,能让DeepSeek-V4-Flash在本地跑快一两倍,每秒120 tokens,精度不变,自己部署更爽了。
8月6日
8月4日
22:35
22:35官方一手Hugging Face: Blog博客/媒体
Liquid AI 推出 LFM2.5-2.6B,一个 26 亿参数的语言模型。该模型面向本地智能体部署,减少对云端依赖。模型权重托管在 Hugging Face,开发者可直接下载。其体积适合在边缘设备上运行。
事件专题

推荐理由:想在自己电脑上跑智能体?Liquid AI 的 LFM2.5-2.6B 只有 2.6B 参数,不用联网,下载就能用。
8月2日
02:39
02:39andrew chen@andrewchen
精选
Bleys Goodson发布了面向DGX Spark的量化单节点版DeepSeek V4 Flash。该版本对应DeepSeek V4 Flash 07-31,参数规模284B。在单台DGX Spark上,prefill速度达1000 tok/s,多智能体服务速度59 tok/s。整个安装只需一条命令。
事件专题

推荐理由:DGX Spark用户别错过,一条命令跑284B的DeepSeek V4 Flash,prefill有1000 tok/s,多智能体也有59 tok/s。
01:35
7月29日
7月25日
21:30
21:30量子位@文婷
吴恩达团队推出个人桌面Agent,代码100%开源,注重隐私保护,所有处理在本地完成。该Agent采用模型无关架构,可灵活接入Llama、GPT等多种模型,用户无需联网即可使用。项目支持Windows、macOS和Linux平台,安装配置简单。
事件专题

推荐理由:想体验完全本地运行的AI Agent吗?吴恩达开源了,免费、隐私好,还能自己换模型,赶紧试试。
7月24日
09:39
09:39官方账号arXiv cs.AI@Mack Nixon, Liam Wright, Yevgeniya Kovalchuk, Alison Fang-Wei Wu, Martin Danka, Andy Boyd, David Bann
研究者提出开源框架RRBench,评估开源权重LLM驱动的AI代理在纵向人口研究数据准备中的效果。框架包括来自英国队列研究6轮数据的真实清洗脚本,以及20个数据准备任务(创建102个变量)。基准测试显示,31-35B参数模型平均任务完成度达87.9%,接近饱和。结果表明,消费级硬件上的开源模型为治理受限研究中的AI辅助数据准备提供了可行路径。
推荐理由:想知道开源模型做数据清洗行不行?这篇论文用真实研究数据测试了31-35B模型,近九成任务都能搞定,隐私保护场景也能用。
7月20日
10:06
10:06官方一手marktechpost@Michal Sutter
精选
社区开发者用 Claude Fable 5 的推理链数据微调了 OpenBMB 的 MiniCPM5-1B,得到一个仅 657MB 的最小化本地推理模型。该模型支持 128K 上下文,推理过程可见。微调后的能力继承自原始模型,但授权条款在模型卡中未完全明确。
事件专题

推荐理由:有人把 Claude Fable 5 的思维链塞进了 MiniCPM5-1B,搞出个 657MB 的本地推理模型,128K 上下文还能看它怎么想的,部署门槛极低。
7月15日
6月29日
15:19
15:19Geek@geekbb
推文作者分享了使用 Qwen3-8B 模型与 DSpark 工具进行本地部署的体验。该推文获得 737 次查看,反映了用户对消费级显卡运行大模型的渴望。当前消费级显卡显存普遍不足,难以直接运行 8B 参数模型。

推荐理由:有人实测了 Qwen3-8B 配合 DSpark 本地跑,说能流畅运行但显存不够,感觉消费级显卡该升级了。
6月26日
01:15
01:15官方账号Hugging Face@huggingface
Hugging Face 通过直播演示如何在本机部署和运行开源 AI 模型。教程覆盖了从模型下载、环境配置到推理执行的完整流程,无需依赖云端服务。适合希望离线使用 LLaMA、Mistral 等模型的开发者。
推荐理由:想自己跑开源模型?Hugging Face 这场直播手把手教你在本地部署,省去云端费用和延迟。