长上下文相关 AI 资讯

模型中美对照多源确认精选74°10:31

NVIDIA 开源 Nemotron Puzzle 75B MoE 模型，支持 1M 上下文

NVIDIA 刚开源的 75B MoE 模型，实际只激活 9.3B 参数，单卡就能跑百万 token 上下文，适合长文档或代码分析。

#NVIDIA-Nemotron-Labs-3-Puzzle-75B-A9B-NVFP4 #NVIDIA #MoE #开源模型

事件专题

官方账号NVIDIA AI@NVIDIAAI11 个信源在谈原文

模型中美对照精选22:15

MiniMax M3 多模态长运行智能体模型解析

MiniMax M3 用稀疏注意力让智能体能跑很久，多模态还实用，搞长任务的不妨关注一下。

#MiniMax M3 #多模态 #智能体 #稀疏注意力

elvis@omarsar0原文

模型中美对照精选11:21

腾讯混元发布295B MoE模型Hy3，免费体验两周

腾讯混元这个Hy3模型挺牛的，295B参数还免费玩两周，编码和工具调用都很强，值得试试。

#Hy3 #腾讯混元 #MoE #推理模型

官方账号Nous Research@NousResearch原文

产品 Agent 与开发者多源确认02:58

智谱AI推出ZCode，以低价挑战Claude Code和OpenAI Codex

ZCode搭载GLM-5.2，长上下文搞定复杂编码，价格只有Claude Code和Codex的零头，还送5天500万token试试水。

#ZCode #GLM-5.2 #Zhipu AI #编程助手

事件专题

官方账号Decoder@Matthias Bastian11 个信源在谈原文

模型精选11:00

小红书开源高效长上下文LLM服务框架

小红书开源了一个长上下文LLM推理框架，用注意力头分类和分段缓存把预填充算力省掉一半多，精度基本没损失，适合超长文本场景。

#小红书 #长上下文 #LLM推理 #KV缓存

Geek@geekbb原文

论文精选10:03

HOLA 给线性注意力加上海马体记忆，解决长上下文遗忘

线性注意力模型容易忘事？HOLA 加了个小型精确缓存，长上下文检索比全注意力还强。

#HOLA #线性注意力 #海马体 #长上下文

事件专题

arXiv cs.AI@Wanyun Cui2 个信源在谈原文

论文09:43

RaBitQCache：面向长上下文LLM推理的旋转二进制量化KV缓存

RaBitQCache用旋转二进制量化KV缓存，比现有稀疏注意力方法更快更省内存，还能自适应调整预算。

#RaBitQCache #旋转二进制量化 #KV缓存 #长上下文

arXiv cs.LG@Wenhao Li 等 6 人原文

模型中美对照官方一手精选16:05

华为开源92B参数openPangu-2.0-Flash模型，支持512K上下文

华为开源了92B参数的openPangu-2.0-Flash，512K上下文挺大，而且专为昇腾优化，做国产AI开发的同学可以试试。

#openPangu-2.0-Flash #Huawei #Ascend #开源模型

事件专题

官方一手pandaily@[email protected] (Pandaily)2 个信源在谈原文

模型12:48

Memora：可扩展记忆系统让AI代理记住长对话

微软出了个叫Memora的记忆系统，让AI能记住长对话不卡顿，比硬加载上下文聪明多了。

#智能体 #记忆系统 #长上下文 #Memora

官方账号Microsoft Research@MSFTResearch原文

模型中美对照13:49

GLM-5.2登陆Together AI，通过OpenRouter快速访问

GLM-5.2跑得快，长上下文和智能体场景下Together的优化让token更多更流畅，试试看。

#GLM-5.2 #Together AI #OpenRouter #推理模型

事件专题

官方账号Together AI@togethercompute2 个信源在谈原文

论文精选09:43

Block-GTQ: RoPE感知的KV缓存量化位分配方法

这篇论文用RoPE感知的位分配方案，在KV缓存量化上显著提升长上下文检索和推理，效果逼平fp16，值得研究量化的朋友细读。

#Block-GTQ #RoPE #KV缓存量化 #长上下文

arXiv: DeepSeek@Fengfeng Liang 等 3 人原文

技巧 Agent 与开发者官方一手精选71°14:40

GLM-5.2 OpenAI兼容API实践：推理努力、函数调用与长上下文

这篇教程手把手教你用GLM-5.2 API实现推理控制、函数调用和检索，代码可直接复用。

#GLM-5.2 #推理模型 #函数调用 #长上下文

事件专题

官方一手marktechpost@Sana Hassan9 个信源在谈原文

模型中美对照精选18:41

Zai_org 发布 GLM-5.2 开源模型：1M 上下文与智能体编码

GLM-5.2 支持百万级上下文，还能控制推理深度，搞智能体编程和复杂工具链的可以试试。Together AI 上直接用。

#GLM-5.2 #Zai_org #Together AI #智能体

官方账号Together AI@togethercompute原文

模型多源确认精选04:25

Poolside 发布 Laguna M.1 开放权重，256K 上下文长度

Poolside 把最强的 Laguna M.1 模型完全开放了，256K 上下文，Apache 2.0 许可，直接去 Hugging Face 下载权重用。

#Poolside #Laguna M.1 #Hugging Face #开源模型

事件专题

官方账号Clement Delangue@ClementDelangue3 个信源在谈原文

模型中美对照官方一手精选23:33

MiniMax发布MSA：两分支稀疏注意力，1M上下文计算量降28倍

MiniMax 搞了个新稀疏注意力 MSA，1M 上下文计算量降 28 倍，准度却一点没掉，适合长文本场景。

#MiniMax #MSA #稀疏注意力 #长上下文

官方一手marktechpost@Asif Razzaq原文

模型中美对照精选23:06

GLM-5.2 发布：1M token 上下文，Terminal-Bench 2.1 得分 81.0

Zai_org 的 GLM-5.2 来了，1M 长上下文拿下了 81.0 的 Terminal-Bench 分数，比上一代高出一截，而且推理效率也优化了，值得上手试试。

#GLM-5.2 #Zai_org #SGLang #长上下文

官方账号LMSYS Org (SGLang)@lmsysorg原文

模型中美对照官方一手74°11:55

智谱 GLM-5.2 发布并开源，百万 token 上下文性能提升

智谱 GLM-5.2 开源了，百万上下文还能省 2.9 倍算力，做长任务的朋友可以上手试试。

#GLM-5.2 #智谱 #开源模型 #长上下文

官方一手歸藏(guizang.ai)@op7418原文

模型 Agent 与开发者多源确认11:36

智谱开源GLM-5.2，1M上下文拿下AI编程第一

智谱开源了GLM-5.2，1M超长上下文，编程能力直接拿下第一，想换编程模型的话可以试试。

#GLM-5.2 #智谱 #编程助手 #开源模型

事件专题

量子位@十三11 个信源在谈原文

模型 Agent 与开发者08:45

GLM-5.2 免费开源，MIT协议，1M上下文

智谱开源了GLM-5.2，MIT协议、1M上下文，编程和Agent任务比上一代强不少，还能本地跑，别错过。

#GLM-5.2 #开源模型 #智能体 #编程助手

berryxia@berryxia原文

模型中美对照72°04:01

Z.ai 发布开源权重模型 GLM-5.2，聚焦编码与智能体任务

Z.ai 发了 GLM-5.2，开源权重、MIT 许可，编码和智能体能力提升明显，还支持 1M 上下文，想玩前沿模型的可以试试。

#GLM-5.2 #Z.ai #开源模型 #编码

elvis@omarsar0原文

模型 Agent 与开发者多源确认精选03:49

GLM-5.2 发布：1M 上下文窗口，开源最强编码模型

Z.ai 开源了 GLM-5.2，有 1M 上下文窗口，适合写长代码和搭智能体，在 Ollama 上直接就能用，MIT 许可随便玩。

#GLM-5.2 #Z.ai #Ollama #开源模型

事件专题

ollama@ollama11 个信源在谈原文

模型中美对照77°02:17

GLM-5.2 开源发布，1M 上下文与双推理模式

智谱开源了 GLM-5.2，1M 上下文还能选推理模式，做长代码任务更强了。

#GLM-5.2 #智谱 #开源模型 #长上下文

kimmonismus@kimmonismus原文

论文12:23

KVEraser：学习操纵KV缓存实现高效局部上下文擦除

这篇论文提出KVEraser，能快速从大模型KV缓存中擦除指定内容，不用全部重算，1K-32K长度下延迟只增24%，效果接近重算，适合长上下文场景。

#KVEraser #KV缓存 #上下文擦除 #推理效率

arXiv cs.LG@Mufei Li 等 8 人原文

模型中美对照官方一手79°14:13

Z.ai 发布 GLM-5.2，100万token上下文与两种思考模式

Z.ai 的 GLM-5.2 支持百万token上下文，还能选思考深度

#Z.ai #GLM-5.2 #长上下文 #推理模型

事件专题

官方一手marktechpost@Michal Sutter11 个信源在谈原文

模型中美对照多源确认22:52

MiniMax M3 发布：长上下文多模态模型，支持文本/图像/视频推理

多模态推理模型终于有了高效的开源选择——MiniMax M3 用 23B 激活参数实现长上下文多模态推理，做视频分析或长文档处理的团队可以直接在 NVIDIA 端点免费试，值得关注。

#MiniMax #M3 #多模态模型 #长上下文

事件专题

官方账号NVIDIA AI@NVIDIAAI11 个信源在谈原文

论文精选12:32

DeepSeekV4 上下文内存压缩至1/10，FlashMemory 显存占用仅1.3GB

长文本推理的显存瓶颈被 FlashMemory 大幅缓解，做 LLM 推理优化或部署长上下文模型的团队可以直接参考论文方法，效果甚至比原版更好。

#FlashMemory #DeepSeekV4 #显存优化 #长上下文

karminski-牙医 (AI工具)@karminski3原文

论文精选09:13

MiniMax Sparse Attention：28倍加速超长上下文推理

做长上下文推理或 agent 工作流的开发者，终于有了一个能直接部署的稀疏注意力方案——MSA 在 109B 模型上实现 28 倍计算缩减，且内核已开源，值得立刻试跑。

#稀疏注意力 #长上下文 #推理加速 #MiniMax

arXiv cs.AI@Xunhao Lai 等 11 人原文

论文精选07:01

Untied Ulysses 让 Llama 3B 在单节点训练 3M 上下文

长上下文训练一直是显存大户，Untied Ulysses 让单节点就能跑 3M token，做 LLM 训练和推理优化的团队值得关注，能省下不少 GPU 预算。

#长上下文 #显存优化 #注意力机制 #Together AI

官方账号Together AI@togethercompute原文

模型中美对照多源确认精选00:24

Google Gemma 4 12B 上线 SiliconFlow：智能体、长上下文、多模态全支持

做智能体、长上下文或多模态应用的开发者终于有了一个模型搞定三件事的选择——Gemma 4 12B 在 SiliconFlow 上价格亲民，建议直接上手试试。

#Gemma 4 #智能体 #多模态 #长上下文

事件专题

官方账号SiliconFlowAI@siliconflowai8 个信源在谈原文

产品多源确认88°12:57

Stripe 5000万行代码迁移：Fable 5一天完成，人工需两月

大型代码库迁移是工程团队的噩梦，Fable 5 把两个月压缩成一天，做后端或基础设施的开发者值得关注——这可能是你未来省下整支团队时间的关键工具。

#Claude 5 Fable #代码迁移 #长上下文 #效率提升

事件专题

AI Will@FinanceYF511 个信源在谈原文

论文精选12:12

Express 语言建模：高效因果注意力近似工具

做长上下文语言模型推理优化的团队，Express 能同时提升预填充和解码效率，值得直接集成到现有流水线中。

#注意力近似 #因果注意力 #长上下文 #KV缓存压缩

arXiv cs.LG@Albert Gong 等 4 人原文

模型中美对照多源确认88°08:12

Claude Fable 5 初体验：慢、贵、但强大

Claude Fable 5 的“大模型感”让开发者重新思考任务边界——如果你经常用 Claude 处理复杂推理或长上下文任务，这个模型值得一试，但要做好预算准备。

#Claude Fable 5 #Claude Mythos 5 #安全护栏 #长上下文

事件专题

官方账号Simon Willison’s Weblog11 个信源在谈原文

论文精选72°10:32

FlashMemory-DeepSeek-V4：LSA稀疏注意力实现超长上下文高效推理

LSA 解决了超长上下文推理的 GPU 内存瓶颈，做长文档分析或大规模序列建模的团队可以直接参考其稀疏注意力方案，显著降低部署成本。

#稀疏注意力 #长上下文 #KV缓存压缩 #DeepSeek-V4

arXiv: DeepSeek@Yan Wang 等 13 人原文

论文09:35

COMPACT-VA：面向长上下文自动驾驶的规划对齐令牌压缩

自动驾驶长上下文处理的计算瓶颈终于有了架构兼容的解决方案——COMPACT-VA 无需修改骨干网络即可压缩令牌，做端到端自动驾驶的团队值得关注其 3.3 倍加速效果。

#自动驾驶 #令牌压缩 #VQ-VAE #长上下文

arXiv cs.AI@Zhixuan Liang 等 15 人原文

论文精选12:06

CLSA：跨层稀疏注意力实现7.6倍解码加速

长上下文推理的瓶颈终于有了系统级解法——CLSA通过共享路由索引同时加速预填充、缓存和解码，做LLM推理优化的团队值得看看这个架构思路。

#稀疏注意力 #长上下文 #推理加速 #KV缓存

arXiv cs.AI@Yutao Sun 等 5 人原文

模型中美对照官方一手83°05:48

NVIDIA 发布 Nemotron 3 Ultra：550B 混合专家模型，专为长时智能体设计

长时智能体开发者终于有了一个兼顾超长上下文和高推理效率的开放模型——Nemotron 3 Ultra 的 6 倍吞吐量提升能显著降低部署成本，做 Agent 或 RAG 系统的团队值得直接试。

#NVIDIA #Nemotron 3 Ultra #混合专家模型 #长上下文

事件专题

官方一手marktechpost@Asif Razzaq11 个信源在谈原文

论文中美对照官方一手精选76°10:02

中科大开源智能体驱动长上下文训练范式：30B模型媲美Qwen3-235B

中科大用30B模型打平235B的长上下文能力，做长上下文训练的团队可以直接复用这套开源范式，省下大量算力和数据成本。

#长上下文 #智能体 #开源/仓库 #训练范式

官方一手pandaily@[email protected] (Pandaily)原文

模型中美对照78°01:21

MiniMax M3 发布：MSA 注意力机制实现 1M token 解码快 15.6 倍

长上下文推理的瓶颈被 MSA 大幅缓解，做 RAG、长文档分析或大上下文应用的团队值得立即体验，速度提升意味着更低的成本和更好的用户体验。

#MiniMax #M3 #稀疏注意力 #长上下文

Fireworks AI@FireworksAI_HQ原文

论文12:49

Self-Pruned Key-Value Attention：让LLM只保留未来有用的记忆

KV缓存是长上下文推理的瓶颈，这篇论文用自学习剪枝解决了内存爆炸问题，做LLM推理优化或长文本应用的开发者可以直接参考其方法。

#KV缓存 #长上下文 #注意力机制 #模型压缩

rohanpaul_ai@rohanpaul_ai原文

模型中美对照多源确认76°04:40

MiniMax-M3 模型：1M 上下文+原生多模态+稀疏注意力

做长上下文和多模态应用的团队可以关注——MiniMax-M3 的稀疏注意力优化让吞吐量提升显著，直接降低推理成本，值得一试。

#MiniMax-M3 #稀疏注意力 #多模态 #长上下文

事件专题

官方账号Together AI@togethercompute8 个信源在谈原文