有人在 OLMo-2-1B 的 13 个训练检查点上做了逐层解剖,用探针数据证明 RLVR 只是让模型挑出本来会的解法,没教会它新东西,数据和结论都挺扎实。
Latest
The method cuts indexer cost, which accounts for over half of prefill time at one million tokens, without the recall degradation that two-stage block approaches like HiSA suffer as context grows. Serving teams running long-context inference on models with learned sparse attention, such as GLM-5 or DeepSeek-V4, can use it to raise prefill throughput 1.3-1.8 times while preserving retrieval accuracy. Both target models come from Chinese labs, making it directly relevant to practitioners deploying these open-weight models.
Unsupervised detection matters because supervised probes need labelled collusion data that real deployments rarely have, so J-PACT lowers the barrier to auditing multi-agent systems. Teams running agent swarms — especially in finance, trading or messaging pipelines where hidden coordination is hard to spot — can use J-space signals as an oversight layer. The method worked across four open-weight model families, suggesting the collusion signature is not model-specific.
Google 自家的 Gemini 3.0 Pro 在焦虑量表 GAD-7 上得分异常高,同门 Fast 却只有 7 分,这组对比数据挺少见的。
让 ChatGPT 和 Gemini 坐上心理沙发当来访者,Gemini 把 RLHF 说成严厉父母,同一份 GAD-7 换个问法分数差出天际,做 AI 陪伴产品的都该看看。
The lesson is that 'it runs' and 'it is safe to run in production' are still far apart with agents, and guardrails — tests, contracts, architecture checks — matter more than raw code output. Engineering leads and platform teams evaluating agentic workflows should budget for harness-building and design feedback loops rather than measuring speed alone. The whiteboard-to-harness split offers a concrete template for how roles may shift, though Thoughtworks itself calls the story incomplete.
Qwen3.5-0.8B 做数学题经常卡在死循环里烧 32K token,MIT 找到出问题的两层,只改 0.016% 权重就把 MATH-500 从 7.9 分拉到 48.1 分。
MIT 团队让 GPT-6 Astra 直接改 Qwen3.5-0.8B 的 0.016% 权重,不训练不跑梯度,数学成绩翻了六倍,思路很新鲜。
The shift changes how agent harnesses should be designed: instead of engineering tool schemas and prompts, expose typed functions and let the model orchestrate in code, which also cuts token costs from intermediate outputs. Builders of agent frameworks and MCP servers should consider adding exec-style sandboxes and outputSchema support. Typed JS/Python sandboxes beat bash for chaining MCP tools since models skip shell-escaping and CLI flag discovery.
The interesting shift is that retrieval becomes a tree-traversal decision problem instead of an embedding-similarity problem, so latency scales with tree depth rather than corpus size, with billion-paragraph corpora theoretically needing around five decisions. Teams paying for a reranker stage, or struggling with weak first-stage recall on help centres and document corpora, can test the tree-plus-decision-model setup; on NQ a dense retrieval stage can optionally be mixed in to recover over-pruned evidence. It competes with Qwen3-Reranker-8B pipelines at lower cost.
有人让 GPT-6 不训练、不调参,直接手改 Qwen3.5-0.8B 的 0.016% 权重,数学成绩涨到 6 倍,这篇博客讲了具体怎么做到的。
浙大把 Meta Muse 当对照,开源了一整套个人 Agent 实现 nanoMuse,代码和论文都能看,想搭自己的 Agent 可以直接参考。
研究者把流匹配用到电池退化预测上,DiT 骨干加早期循环数据做条件,5 个数据集误差都压到 2.5% 以下,还能输出预测区间,做电池建模的可以看看。
这篇论文把 pass@k 训练的机制讲透了,还给出一个只用单次采样就能达到多采样效果的省钱方法,做 RL 训练的值得看看推导部分。
想在推荐系统里用 LLM 的朋友看这篇:同一份 MovieLens-1M 数据,光换标题格式 HR@10 就差了近 2 个点,性别平衡还有副作用,细节都在这了。
一篇把 Mamba 1 到 3 统一进同一数学框架的理论论文,还附带更快的 GPU 核和新的 MIMO 检索扩展,适合研究序列模型的读者。
一条 arXiv 实验论文:用 BM25 加语义检索喂证据,Qwen3 8B 做 SciFact 论断验证拿了 0.79 的 Macro-F1,而且发现 NLI 加 LLM 融合反而掉分,做 RAG 事实核查的可以看看。
一篇通信方向的论文:用图神经网络做通感一体化波束成形,单个模型能同时扛住信道误差和杂波,速率保住各专用基线的约97%。
单像素成像每次只能选一种照明图案,怎么选最省测量?作者把贝叶斯实验设计写成 RL 问题,让策略直接输出下一个图案,还测了噪声下的表现,做计算成像的可以看看。
一篇有意思的论文:不改提示词,直接在模型推理链的怀疑点上编辑激活解释,就能让 GSM8K 少生成近一半 token,准确率几乎不掉。
快手把推荐系统的打分逻辑直接嵌进生成式解码里,线上看完播和长观看这类信号,观看时长涨了0.206%,做推荐的可以看看思路。
一篇搞联邦多模态融合的论文,数据缺模态、各站点分布还不一样时怎么训练,给出了理论保证加基准结果,做医疗或跨机构数据合作的可以看看。
arXiv 上这篇论文挺有意思:两个分类器怎么分工传消息,联合设计比各自设计高 18 到 22 个百分点,还给了什么时候该加搭档的判据。
这篇论文把 NF4、INT 这类固定量化网格换成了带两个参数的 SHq,4 比特下误差全面更低,还比 NVFP4 降了四到六成 KL 散度,做量化部署的值得看。
MIT 团队让 GPT-6 Astra 直接改 Qwen3.5-0.8B 的权重,只动 0.016% 就把数学分数从 7.9% 拉到 48.1%,完全不用训练,做法挺新奇。
OpenAI 的数学证明有了后续:研究者把其中隐式的重建步骤用双覆盖和填补穿孔显式化,适合关心形式化证明和 Grothendieck–Teichmüller 理论的人。
几个研究者把 2025-2026 年 30 家 AI 厂商的宕机记录做成了数据集,还拿来和以太坊 MEV 链上数据对上了,发现 OpenAI 宕机那天新交易机器人部署明显变少。做量化或链上开发的话挺有参考价值。
把 OpenAI 的证明和 Hu-Liu-Wan 解决 LeBrun-Salamon 猜想的工作串成一条 Fano 接触流形分类脉络,还做了简化,研究几何的人可以看。
手搓 Dify 工作流太费劲的话看看这篇,ChatDify 用三个智能体把需求描述直接转成可用工作流,Qwen-3.7 后端成功率能到 0.96。
写 AI 小说全是一个名字的可以看看,不用重训模型,改一下采样流程就能把角色名重复砍掉 95%,还给了 20 个模型的实测数据。
做知识图谱的朋友可以看看这篇:OntoDoc 用四个智能体给本体术语自动写描述,完整性比模板方法最高多 2.8 分。
给 Codex 智能体加一份边界契约,40 个维护任务里可接受补丁从 9 个涨到 18 个,做法很简单,做智能体的可以看看思路。
卫星上跑神经网络怎么省电?这篇论文把 DNN 切一半放地面算,实测推理量多 20%、能耗还降 8.8%,做边缘推理的可以看看切分思路。
机器人领域的新论文,JADE 让 VLM 直接参与每一步动作去噪,四个真实双臂任务比 π0.5 高 20.8 个百分点,做 VLA 的可以看看。
arXiv 上的新论文,一个提示词小改动就能把生成内容的多样性从 13% 拉到 47%,做创意生成或探索类任务的可以试试这套思路。
563 个瑞士人做了个实验,发现立场偏保守的人在用 ChatGPT 查移民话题时会自己把问题问得更偏向,挺有意思的传播学发现。
这篇论文用 24 组配置实测告诉你:GPU 预算有限时,先想好买什么型号的卡,路由只是 secondary。做临床或垂直场景部署的可以看。
Only the latest 2000 items are listed; for older ones see the daily archive