18:24IT之家(博客/媒体)极摩客 EVO-X3 迷你主机搭载 AMD 锐龙 AI Max+ 395 处理器(16 核心 32 线程),AI 算力达 126 TOPS。官方宣称可本地运行 Qwen3 235B 模型,LM Studio 性能超过 RTX 4090。标配 128GB LPDDR5X-8000 内存,其中 96GB 可分配给显卡作为显存,存储支持双 M.2 PCIe 4.0×4 插槽,最大 16TB。起售价 21699 元(128GB+1TB 版本),配备 OCuLink 接口并兼容 AMD ROCm 生态,可外接 RTX 40/50 系显卡。AI产品极摩客EVO-X3锐龙AI Max+ 395Qwen3迷你主机推荐理由:极摩客发了款迷你主机,锐龙AI Max+ 395,126TOPS算力能本地跑235B模型,性能比RTX 4090还猛,21699元起。原文
14:06IT之家(博客/媒体)精选72°苹果在 WWDC 上推出 CoreAI 引擎,接替服役 9 年的 CoreML,主打端侧大模型推理。首批基准测试显示,在 M4 Mac 上运行 Qwen3 0.6B 小模型时,CoreAI 解码速度是 MLX 的 2.47 倍,iPhone 17 Pro 上为 1.6 倍。但在 80 亿参数模型上,CoreAI 仅比 MLX 快 5%,优势随模型规模增大而收窄。持续负载测试中,CoreML 配合神经引擎在温控降频场景下性能保持率反超 GPU 路线。横向对比,谷歌 LiteRT-LM 运行 Gemma 时内存占用仅为苹果 MLX 的 1/4.5,显示针对特定模型优化的重要性。AI产品苹果CoreAI端侧推理MLXQwen3推荐理由:苹果端侧 AI 架构迎来重大更新,CoreAI 在小模型推理上显著提速,做本地 AI 应用或模型部署的开发者值得关注,尤其是 M4 Mac 用户可以直接感受到更快的响应。原文
07:14marktechpost@Sana Hassan本文教程介绍了如何使用 ZeroEntropy 的 Zerank-2 重排序器(基于 Qwen3 的 4B 交叉编码器)来提升检索质量。教程从设置运行环境、加载模型开始,逐步讲解如何对查询-文档对进行评分。接着,从简单的成对评分过渡到实用的两阶段检索-重排序管道:先用快速的双编码器检索候选文档,再用 Zerank-2 进行精排。该方案能显著提高检索精度,适合需要高准确率的信息检索场景。AI模型检索增强生成重排序交叉编码器Qwen3ZeroEntropy推荐理由:做 RAG 或搜索系统的开发者,这个教程直接教你用 Zerank-2 搭建两阶段管道,从环境配置到实战代码都有,值得跟着跑一遍。原文