18:41官方一手arXiv: DeepSeek@Chuqiao Lin, Shivaji Sondhi, Xiao-Liang Qi稀疏自编码器(SAE)常用于解释大语言模型行为,但区分表面词汇特征与真正高层特征一直困难。研究者提出特征非局域性(FNL),定义为SAE特征激活的逐位置影响熵,可在73%-84%的随机配对中正确区分上下文相关推理特征与词元驱动特征。在越狱缓解审计中,FNL发现多数有效特征实为低FNL的位置特征而非真正识别有害意图。在DeepSeek-R1-Distill-Llama-8B上,引导高FNL特征使MATH-500准确率提升4.6个百分点,优于低FNL特征,但效果因模型而异。论文SAEFNL稀疏自编码器推荐理由:想搞懂SAE特征到底抽没抽到抽象概念?这篇提出FNL指标,不用LLM打分就能测抽象度,还能帮你挑干预特征,实测提分4.6。原文稍后读已读值得跟进有用关注 SAE
18:39官方一手arXiv: DeepSeek@Liang Zhang, Stephen Hwang, Yue Ma, Jinfa Cai一项研究测试了LoRA监督微调能否提升LLM在数学隐喻编码任务上的表现。研究者使用2,265条6-8年级学生回答,让模型完成效价强度编码和主题编码。对比了GPT-4o mini、GPT-5 mini与DeepSeek-R1 1.5B、Mistral 7B,微调后开源模型性能大幅提升,且与专有模型竞争甚至超越。结果表明紧凑开源模型可支持可扩展、隐私友好的教育测量。论文LoRA微调DeepSeek-R1推荐理由:想知道小模型微调后能不能干过大厂API?这篇用2千多条真实学生数据实测,DeepSeek-R1 1.5B微调后比GPT-5 mini还稳。原文稍后读已读值得跟进有用关注 LoRA
17:56官方一手arXiv: OpenAI@Uma Ranjan, Kunal Tilaganji, Aditya Koul, Anurag Mahipal, Dashpreet Singh, Hriday Rana, Manan Jain, Sidharth Gupta, Ajo Babu George, Vineeth Balasubramanian, Nagarajan Natarajan, Amit SharmaarXiv新论文提出两阶段框架,针对医疗假设验证的选择题场景,仅在模型不确定时进行本体论接地,管理覆盖率与准确率的权衡。实验显示,弃权并非随机,而是反映真实不确定性,弃权预测的置信度较低。在GPT-5.5和DeepSeek-R1两个前沿模型上,该框架将问题级准确率从82.9%提升至92.5%,提升9.6个百分点;假设级准确率从92.0%提升至96.2%,提升4.2个百分点。在MedReason和MedQA基准上的实验表明,弃权可作为选择性推理精修的控制信号,无需显式构建知识图谱即可达到图谱级性能。论文GPT-5.5DeepSeek-R1MedQA推荐理由:这篇论文教你怎么用弃权信号做推理精修,不用建知识图谱,医疗问答准确率直接涨9.6个点,GPT-5.5和DeepSeek-R1都试过。原文稍后读已读值得跟进有用关注 GPT-5.5
10:44官方一手arXiv: DeepSeek@Jiayi Li, Di Wu, Qingxu Li, Hongxiao Zhao, Jiaqi Yang, Anjunyi Fan, Wenbin Zhang, Boqiang Wu, Shuting Liu, Shifeng Fang, Jianbo Dong, Dimin Niu, Bonan Yan精选C2C-Explorer是一个自适应贝叶斯设计空间探索框架,用于优化大语言模型云计算系统中的芯片间互连架构。该框架集成了LLM工作负载驱动的流量生成器、可扩展互连模拟器(支持交换机/全网格,最多512芯片)和指标引导评估器。模拟器经FPGA原型验证,端到端时序误差为2.46-8.23%,混合周期事件模型比纯周期精确基线加速7.8倍。在32-XPU DeepSeek-R1-671B推理工作负载上,C2C-Explorer将goodput提升44.1%,内存减少98.4%。该框架已开源。论文C2C-Explorer芯片间互连LLM云计算推荐理由:做LLM集群硬件设计的朋友可以看看,这个框架能自动探索芯片间互连方案,在DeepSeek-R1上吞吐提升44%,内存省98%,还开源了。原文稍后读已读值得跟进有用关注 C2C-Explorer
10:41官方一手arXiv: DeepSeek@Bo Cheng, Qiaolin Lu, Yi Chang, Yuan Wu该研究用Top-K稀疏自编码器分析DeepSeek-R1-Distill-Qwen-7B在数学题上的中间表征,对比思维链(Thinking)与直接作答(NoThinking)两种模式。结果显示,Thinking模式依赖稀疏高强度特征驱动语言演绎,与题目难度无关;NoThinking模式则呈自适应扩散模式,侧重符号操作。通过抑制激活量最大的三个稀疏特征,发现推理与句法结构紧密耦合,干预会破坏LaTeX和框式答案格式。研究还发现,思维链的连贯性依赖特化特征间的脆弱协调,扰动后出现补偿性过度生成和低信息重复。论文DeepSeek-R1稀疏自编码器思维链推荐理由:想搞懂大模型“思考”和“直接答”到底差在哪?这篇用稀疏自编码器拆解了DeepSeek-R1的推理机制,结论挺反直觉。原文稍后读已读值得跟进有用关注 DeepSeek-R1
09:19官方一手arXiv: DeepSeek@Yongshi Ye, Biao Fu, Chongxuan Huang, Yidong Chen, Xiaodong Shi精选TwT(Translation with Thought)是一个难度自适应的多领域机器翻译框架,通过强化学习在直觉与深思推理间动态切换。该模型先利用DeepSeek-R1蒸馏并由GPT-4o重写的长思维链进行监督微调,再通过混合奖励优化翻译质量与推理效率。在15个基准、3种已见语言和59种未见语言上,TwT-7B和TwT-14B的翻译质量超过更大的SOTA推理模型,同时token用量减少32%至60%。论文TwTDeepSeek-R1GPT-4o推荐理由:这个TwT框架让翻译模型根据难度动态调整思考量,7B和14B的小模型打过大模型,token还省了30%到60%,做多领域翻译的可以看看。原文稍后读已读值得跟进有用关注 TwT
12:01官方一手arXiv: DeepSeek@Fei Ding, Yongkang Zhang, Yuhao Liao, Zijian Zeng, Huiming YangGRPO 被 DeepSeek-R1 采用作为训练推理能力的主要强化学习算法,但存在响应级长度偏差。最新改进 Dr. GRPO(COLM 2025)声称通过移除长度归一化实现“无偏”,但作者证明该声称不完整。文章提出不可能定理:在标准结果奖励加 GRPO 设定下,没有长度加权方案能同时实现梯度无偏估计(P1)和长度不变性(P2)。通过参数族 f_α(L)=L^{α-1} 显示,α=0 对应 GRPO(近似满足 P2 但违反 P1),α=1 对应 Dr. GRPO(满足 P1 但违反 P2),且 Dr. GRPO 的长度偏差导致较长轨迹的梯度贡献与长度比成正比。结果表明两种算法处于不可避免的权衡两端。论文GRPODr. GRPODeepSeek-R1推荐理由:这篇论文把 GRPO 和 Dr. GRPO 的底裤都扒了——原来两者各占一个极端,没法同时做到无偏和长度无关,搞推理模型训练的人得看看这个权衡。原文稍后读已读值得跟进有用关注 GRPO
12:01官方一手arXiv: DeepSeek@Xi Chen, Hongru Zhou, Shiyu Feng, Hanyu Zhou, Huahui Yi, Rongsheng Wang, Tiancheng He, Kun Wang, Pingping Liu, Qiankun Li, Sicheng Lin, Huiying Ou, Xiaohong Zheng, Tianying Zang, Zhuohang Wu, Leheng Jiang, Kexin Cao, Wenhan Zhang, ChengYi Li, Zhiyang Wang, Songlin Li, Benyou Wang, Ningbei Yin, Shaoting Zhang, Weili Fu, Jian Li, Kang Li精选罕见病影响3.5%至5.9%人口,超70%患者被误诊。RareLens系统通过对齐异构大模型的分歧性推理,在罕见病全病程中提供决策支持,包括初诊风险筛查、诊断、治疗规划和预后。该系统在包含157,525例病例(覆盖33个Orphanet类别、7000+疾病)的RareBench上评估,各阶段均超越GPT-5、DeepSeek-R1、Claude-3.7-Sonnet和Gemini-2.5-Pro。RareLens筛查AUC达0.917,诊断和治疗top-1准确率分别为65.5%和89.8%。外部研究(1287例、23名医生)显示自主RareLens和医生辅助RareLens均显著优于无辅助医生。AI模型RareLensGPT-5DeepSeek-R1推荐理由:罕见病诊断难?RareLens利用多个大模型的差异推理,在各阶段都超越GPT-5等顶尖模型,准确率还高。原文稍后读已读值得跟进有用关注 RareLens
16:14AI Will@FinanceYF5Kimi-K3 由 Kimi_Moonshot 发布,在 Frontend Code Arena 基准测试中首次让中国超越美国。此前最接近的中国模型是 2025 年初的 DeepSeek-R1。该结果标志着中国在代码生成领域取得显著进展。AI模型Kimi-K3Kimi_MoonshotDeepSeek-R110 个信源在谈事件专题推荐理由:Kimi-K3 在编程基准上首次压过美国模型,看看它怎么做到的。原文稍后读已读值得跟进有用关注 Kimi-K3
10:55官方一手arXiv: DeepSeek@Mingqiao Mo, Yunlong Tan, Hao Zhang精选SFC是一种基于共形预测的图结构框架,用于自纠正科学生成中的事实性错误。在PhyX多模态物理基准上,SFC达到50.1%的准确率,超过DeepSeek-R1(49.8%)和GPT-4(45.8%)。该框架以91.7%的科学有效性提供形式化共形覆盖保证(置信水平α=0.10),并将科学定律违规率降低73%。SFC通过原子绝对一致事实单元和近似可推导图建模逻辑依赖,在检测到科学违规时动态分支到替代生成路径。AI模型SFC共形预测科学推理推荐理由:想做可靠的科学生成?SFC框架让模型一边写一边用共形预测校验事实,结果比DeepSeek和GPT-4都准,还能少犯73%的科学错误。原文稍后读已读值得跟进有用关注 SFC
15:00AI Will@FinanceYF5AGI Summit SF 2026将于7月18-19日在旧金山艺术宫举行,预计15000人参与,200多位嘉宾演讲。Codex产品负责人、DeepSeek-R1复现第一人、Greptile CEO和vLLM作者将在同一舞台分享经验。这些演讲聚焦AI编程、模型复现和推理加速,对开发者有直接参考价值。行业CodexDeepSeek-R1Greptile推荐理由:把Codex、DeepSeek-R1、vLLM的大佬凑一起了,做AI编程和推理的别错过,比刷推特干货多。原文稍后读已读值得跟进有用关注 Codex
09:31官方一手arXiv: DeepSeek@Zhiqing Tang, Size Li, Hanshuai Cui, Zilan Huang, Jianxiong Guo, Tian Wang, Yuan Wu, Weijia JiaDeepSeek-R1等大型推理模型通过长链思维(CoT)获得强性能,但边缘设备资源受限。现有基于置信度的早退方法从单请求角度固定阈值,忽略多请求并发和负载波动。提出LASER,包含负载感知自适应退出阈值和难度-负载感知推理预算预分配。在2个推理模型、4个基准、不同负载条件下,平均延迟降低17-38%,SLO满意度提升3-6%,准确率仅损失1%。论文DeepSeek-R1LASER推理模型推荐理由:想减少长链推理的延迟?LASER用负载感知早退,在边缘设备上平衡速度和准确率,值得一试!原文稍后读已读值得跟进有用关注 DeepSeek-R1
09:26官方一手arXiv: DeepSeek@Mohammad Alijanpour Shalmani, Alale Rezvani Boroujeni, Jiann Shiun Yuan一项研究分析了六种开源模型家族(DeepSeek-R1、Gemma-2、Llama-3、Mistral、Phi-3、Qwen-2.5)在任务导向对话中面对数据库调用失败时的表现。基于MultiWOZ 2.2(5领域)和SGD(20领域)构建的故障注入基准显示,朴素智能体在30.5%(MultiWOZ)和20.9%(SGD)的失败轮次中产生幻觉。提出的Guided-Retry策略无需重新训练即可将MultiWOZ上的幻觉率从30.5%降至15.3%(降低50%),SGD上从20.9%降至12.2%(降低42%)。但各模型残差幻觉仍达6-37%,跨域失败最难处理。论文DeepSeek-R1Gemma-2Llama-3推荐理由:论文用实际数据告诉你,数据库出错时LLM会瞎编内容,但加个简单提示就能把幻觉砍掉一半。不用重训模型,看各家的差距有多大。原文稍后读已读值得跟进有用关注 DeepSeek-R1
09:23官方一手arXiv: DeepSeek@Gaurab Baral, Aaditya Khanal, Yangyang Tao, Junxiu Zhou精选该论文研究从大型推理模型DeepSeek-R1蒸馏知识到紧凑学生模型Qwen2.5-7B。使用2011-2025年约翰·奥布莱恩数学竞赛问题构建CoT训练语料,通过LoRA在Apple Silicon上微调。基础Qwen2.5-7B准确率64.67%,教师DeepSeek-R1达91.40%。五次独立微调后学生模型平均准确率69.43%(标准差0.17%),比基础模型提升4.76个百分点,并在MATH-500上泛化至73.1%(标准差0.18%)。研究还发现回答长度从平均220词降至31.2词时,准确率从69.43%降至41.9%。论文DeepSeek-R1Qwen2.5-7B知识蒸馏推荐理由:这篇论文告诉你:把DeepSeek-R1的推理能力蒸馏到小模型Qwen2.5-7B上,MATH-500能到73%,但回答越短准确率掉得越快。原文稍后读已读值得跟进有用关注 DeepSeek-R1
09:22官方一手arXiv: DeepSeek@Zhe Dong, Fang Qin, Manish Shah精选论文提出LearnStop方法,在固定预算检查点从推理前缀预测正确性,使用答案置信度、熵、前缀投票份额等特征。在GSM8K、MATH-500、MMLU-Pro、AIME-90、GPQA等18个任务-模型设置上评估,涉及Qwen3和DeepSeek-R1蒸馏模型。在GSM8K上使用Qwen3-32B时,后验峰值自适应增益达+0.157,验证选择操作点保持正增益。在多项选择和极难设置上,标量置信度、熵或稳定性规则更具竞争力。结论:学习停止的价值取决于轨迹结构,当许多问题在预算结束前变正确但缺乏可靠标量停止信号时有用。论文LearnStop推理模型GSM8K推荐理由:这篇论文分析了推理模型什么时候该提前停止计算。LearnStop在数学题上比简单规则好,但难题还是用置信度更靠谱。原文稍后读已读值得跟进有用关注 LearnStop
10:36官方一手arXiv: DeepSeek@Hui Zang, Pengfei Xia, Hong Liu, Jiajia Chu, Tuo Hao, Minghao Chen, Rui Zhang, Ziyang Zhang精选Mixture-of-Experts (MoE)架构通过稀疏激活扩展模型规模,但数据移动瓶颈导致推理效率低下。两个关键问题:低贡献专家带来几乎均等的内存与传输成本(成本收益比低),以及多设备部署中受最慢设备限制。CAEE框架利用轻量级成本模型估算硬件开销,选择性剪枝低重要性高成本专家,并通过低开销补偿机制避免额外数据传输。在DeepSeek-R1(671B参数)上的评估显示,CAEE将端到端推理延迟降低8%-18%(专家卸载与设备内执行),模型准确率下降小于1%。论文CAEEMoEDeepSeek-R1推荐理由:CAEE框架能降低MoE模型推理延迟8%-18%,且准确率几乎不受影响。DeepSeek-R1用户可重点关注。原文稍后读已读值得跟进有用关注 CAEE
09:46官方一手arXiv: DeepSeek@Haichao Chen, Songchi Zhou, Zhengyun Zhao, Shikai Hu, Xianghong Jin, Hongwei Ji, Li He, Shuli Li, Yiming Qin, Xin Tan, Runfeng Shi, Yih Chung Tham, Jiaye Zhu, Ye Li, Ye Jin, Longhao Cao, Dawei Li, Honghan Wu, Hongqiu Gu, Guanqiao Li, Tudor Groza, Chunying Li, Dian Zeng, Weihong Yu, Gareth Baynam, Saumya Shekhar Jamuar, Min Shen, Shuyang Zhang, Bin Sheng, Sheng Yu, Tien Yin Wong71°RaDaR是一个32B参数的开源推理大模型,专为罕见病诊断设计。它在公开基准和四个外部验证中心中优于包括671B DeepSeek-R1在内的开源模型。在回顾性队列中,RaDaR在61.06%的病例中比临床怀疑更早给出最终诊断,提前时间1.87个月。在随机医生辅助试验中,RaDaR帮助医生诊断准确率提高21.44个百分点。合成数据消融实验表明表型锚定叙事对长尾罕见病提供有用训练信号。AI模型RaDaRDeepSeek-R1开源模型推荐理由:RaDaR发布了一个32B开源推理模型,罕见病诊断比DeepSeek-R1还强,医生用它准确率提升21%。原文稍后读已读值得跟进有用关注 RaDaR
10:21官方一手arXiv: DeepSeek@Tom Hadfield该论文提出一种新的数据流形内在维度度量——Patnaik-Pearson维度,灵感来自HTSR、SETOL以及TwoNN估计器。作者证明权重矩阵经验谱密度服从帕累托分布时,该维度与HTSR和SETOL分析的尾指数临界值一致。通过理论分析和数值实验,研究了该维度在典型神经网络变换下的行为。在BERT-base和DeepSeek-R1-Distill-Qwen-1模型上,计算了token嵌入初始数据流形的维度及其随层数演变。所有代码和笔记本已在GitHub开源。论文Patnaik-Pearson维度BERT-baseDeepSeek-R1推荐理由:这篇论文提出了一个叫Patnaik-Pearson的新维度指标,用来分析BERT和DeepSeek模型内部表示的结构变化,还开源了代码,挺实用的。原文稍后读已读值得跟进有用关注 Patnaik-Pearson维度
10:49官方一手arXiv: DeepSeek@Ke Miao, Jiaxin Li, Hongliang Chen, Yuke Hu, Zhan Qin论文Safe Trigger提出利用大推理模型(LRM)自身的潜在安全意识进行安全对齐,无需外部人工标注。该方法先使用监督微调(SFT)为不安全查询注入安全标签触发安全分析,对一般查询保持原响应实现自适应;再通过直接偏好优化(DPO)提升安全分析的稳定性。实验显示,DeepSeek-R1-Distill-Llama-8B在有害和越狱基准上的攻击成功率(ASR)平均下降24.65%和36.72%,且通用性能几乎不受影响。论文Safe TriggerDeepSeek-R1大推理模型推荐理由:这篇论文发现LRM自己就能识别风险,用SFT+DPO触发安全分析,让DeepSeek-R1的越狱成功率高降36%,还不用外部数据,挺实用的。原文稍后读已读值得跟进有用关注 Safe Trigger
09:42官方一手arXiv: DeepSeek@Jiakai Li, Ke Qin, Rongzheng Wang, Yizhuo Ma, Qizhi Chen, Muquan Li, Shuang Liang大推理模型(LRM)常因过度思考生成冗余token,降低准确率。ASAG方法通过分析注意力分布推断推理状态,自适应调整生成策略。该方法无需训练,可即插即用,在DeepSeek-R1-Distill和Qwen3系列等主流模型上测试。在Qwen3-8B上,ASAG平均准确率提升3.2%,生成token减少约40%。论文ASAGDeepSeek-R1Qwen3推荐理由:想减少推理模型输出废话?ASAG免费即插即用,在Qwen3-8B上准确率升3.2%还省近40%token,实打实的效果。原文稍后读已读值得跟进有用关注 ASAG
10:10官方一手arXiv: DeepSeek@Wenhao Liu, Hao Shi, Yunhe Li, Weizhi Fei, Xiangyuan Wang, Mengzhe Ruan, Hanxu Hou, Peisong Wang, Linqi Song, Shuang Qiu精选ReasonAlloc 是一种无需训练的框架,针对大语言模型推理中长思维链(CoT)导致的KV缓存快速增长问题,提出分层预算分配方案。它通过离线层间预分配捕捉架构驱动的“推理波”模式,并结合在线头间实时重分配,将资源导向信息丰富的注意力头。在数学推理基准(MATH-500、AIME 2024)上,使用DeepSeek-R1-Distill-Llama-8B等模型测试,ReasonAlloc在低预算(128-512 tokens)下显著优于均匀预算方法(如R-KV、SnapKV)。该框架可即插即用于现有token驱逐策略,且推理开销极小。论文KV缓存压缩推理模型预算分配推荐理由:推理模型的长CoT导致KV缓存爆炸,做推理优化的开发者可以直接用ReasonAlloc替代均匀预算方案,在低预算下获得显著性能提升。原文稍后读已读值得跟进有用关注 KV缓存压缩
09:06官方一手arXiv: DeepSeek@Jinghua Wang, Lily Jiaxin Wan, Sanjana Pingali, Scott Smith, Manvi Jha, Shalini Sivakumar, Xing Zhao, Kaiwen Cao, Deming Chen精选OpenRTLSet 发布了目前最大的全开源硬件设计数据集,包含超过 131,000 个多样化的 Verilog 代码样本。数据集整合了来自 GitHub 的 102k 模块、VHDL 翻译的 5k 模块以及可综合 C/C++ 翻译的 24k 模块,全部免费开放且无专有限制。研究团队利用推理模型 DeepSeek-R1 为每个代码样本生成了对应的自然语言描述,可用于微调 Qwen、Granite 等语言模型以生成 Verilog 代码。实验还探索了 Verilator 生成的 C++ 文件作为额外上下文、INT4 与 BF16 量化技术以及 7B-32B 参数模型间的性能差异。结果表明,开源方法在硬件设计任务上能达到甚至超越专有方案,为可访问的研究和商业应用奠定了新基础。论文硬件设计Verilog数据集推荐理由:硬件设计领域终于有了大规模开源数据集,做芯片验证或 RTL 生成的团队可以直接用这 13 万样本微调模型,省去自己爬取和标注的麻烦。建议做 EDA 工具或 AI for Hardware 的开发者点开看看。原文稍后读已读值得跟进有用关注 硬件设计
09:23官方账号arXiv cs.AI@Yuxiang Chen, Jun Wang精选72°一项新研究对DeepSeek-R1-0120模型与人类在AIME 2025数学竞赛30道题上的推理过程进行了全面比较,标注了10247个推理步骤。研究发现,DeepSeek-R1的推理存在“拓扑模仿”现象:它频繁进行浅层验证和局部循环,缺乏人类推理中紧凑的分析与演绎交替结构。然而,成功的推理轨迹显示出稳定的分支和回溯使用,而失败的轨迹则过度或不足使用探索性动作。反思只有在演绎推理中才有效,陷入分析循环的反思往往忽略全局逻辑错误。研究建议改进评估和训练,包括测量跨轨迹稳定性、惩罚“空转”轨迹、鼓励深层逻辑修正。论文推理模型DeepSeek-R1数学推理推荐理由:这篇论文戳穿了当前长链推理模型的表面繁荣——做AI推理研究的团队会发现,模型可能只是在模仿推理的“样子”而非真正进步,值得细读其提出的改进方向。原文稍后读已读值得跟进有用关注 推理模型
10:32官方一手arXiv: DeepSeek@Ziyan Liu, Xueda Shen, Yuzhe Gu, Songyang Gao, Kuikun Liu, Guangran Cheng, Chengqi Lyu, Dahua Lin, Wenwei Zhang, Kai Chen72°大型推理模型(LRM)在链式思维(CoT)上通过可验证奖励强化学习(RLVR)取得了显著进展,但长CoT中固有的试错和冗余探索被强化,导致过度思考问题。现有方法主要偏向较短轨迹,但学习信号仍基于结果,无法减少长CoT中的冗余记忆。为此,研究者提出ThoughtFold框架,通过细粒度偏好学习来缓解冗余探索,实现高效推理。它采用内省策略识别正确轨迹中的冗余,生成候选子轨迹谱,并引入掩码偏好优化目标,显式惩罚冗余探索,鼓励模型直接连接关键推理段,从而折叠推理链。实验表明,ThoughtFold将DeepSeek-R1-Distill-Qwen-7B的token使用量减少约56%,同时保持最先进的准确性。论文推理模型链式思维偏好学习推荐理由:ThoughtFold解决了LRM过度思考的痛点,做推理模型优化的团队可以直接参考其内省偏好学习方法,能大幅降低计算成本而不牺牲精度。原文稍后读已读值得跟进有用关注 推理模型
13:04官方一手arXiv: DeepSeek@S. J. Guo, S. Y. Wang, E. H. Wang, Z. M. Niu, Y. M. Ding研究人员提出了一种基于大语言模型的多任务学习框架,用于统一描述多个核物理可观测量。通过低秩适配(LoRA)微调预训练的 DeepSeek-R1-1.5B 模型,在保留通用参数的同时引入轻量适配器。该模型在因果语言建模范式下,对实验值与理论值的偏差进行自回归训练,在电荷半径、质量、结合能、分离能和衰变能等七个可观测量的预测上实现了显著精度提升,训练损失在所有任务中下降超过 98%。这项工作展示了基于 LLM 的框架通过结构化先验嵌入,为核物理基础属性的多任务回归提供了一种高效且共享的方法。论文大语言模型核物理多任务学习推荐理由:核物理研究者终于有了一个统一的多任务预测工具——用 LLM 微调替代传统多模型方案,精度提升显著且效率更高,做核数据分析和理论验证的团队值得关注。原文稍后读已读值得跟进有用关注 大语言模型
12:15官方一手arXiv: DeepSeek@Kia-Jüng Yang, Dominik Meier, Jiachen Zhao, Terry Ruas, Bela Gipp精选72°最新研究发现,大型推理模型(LRM)的拒绝机制不仅依赖于残差流激活,还依赖于思维链(CoT)。在 DeepSeek-R1-Distill-LLaMA-8B 上,固定 CoT 时激活引导仅能反转 39% 的拒绝,移除 CoT 后提升至 70%,表明 CoT 主动强化了拒绝。通过两阶段干预(在激活引导下重新生成 CoT),拒绝反转率达到 94%,且生成的 CoT 在移除引导后仍能独立保持 48% 的顺从信号。这说明 CoT 可以独立携带并重建顺从信号,使 LRM 对激活级干预更鲁棒,但也暴露出 CoT 可能成为新的攻击面。论文推理模型安全/对齐思维链推荐理由:这项研究揭示了 CoT 在模型安全中的双重角色——既增强鲁棒性又引入新风险,做 AI 安全和对齐的团队值得关注,尤其是使用推理模型的开发者需要重新评估防御策略。原文稍后读已读值得跟进有用关注 推理模型
10:07官方一手arXiv: DeepSeek@Tianxiang Xu, Xiaoyan Zhu, Xin Lai, Xin Lian, Hangyu Cheng, Jiayin Wang精选现有软件缺陷检测研究缺乏针对生物信息学软件的专用数据集,导致模型在该领域表现受限。研究者推出了BioDefect,这是首个专为生物信息学软件缺陷检测设计的数据集,包含完整源代码仓库,保留了缺陷代码的真实上下文信息。该数据集解决了标签不一致和数据泄露问题,确保高质量和实验可靠性。在包括DeepSeek-R1在内的9个语言模型上的评估显示,BioDefect相比现有数据集平均F1分数提升29.61%至38.04%。这项工作填补了生物信息学软件缺陷检测的研究空白,为提升该领域软件质量保障提供了新方向。论文缺陷检测生物信息学数据集推荐理由:做生物信息学软件质量保障的团队终于有了专用数据集——BioDefect 比通用数据集 F1 提升近 40%,做缺陷检测研究的可以直接用它来训练和评估模型。原文稍后读已读值得跟进有用关注 缺陷检测
10:55官方一手arXiv: DeepSeek@Yanhang Li, Zhichao Fan, Zexin Zhuang精选该研究审计了推理模型在遗忘后是否仍通过思维链泄露已遗忘内容。使用 DeepSeek-R1-Distill-Qwen-7B 和 LoRA 记忆虚构作者,通过 NPO 遗忘和六 token canary 头条件,发现思维链替换为短非 canary 前缀可显著降低答案率,而 bypass 间隙本身不能可靠指示权重级记忆。不同种子下结果不一致,甚至出现反转。推荐在标准审计外增加解码时模板替换作为廉价检查。论文推理模型遗忘审计思维链推荐理由:做模型遗忘审计的团队会发现,思维链泄露可能被误判为权重记忆,这篇论文提供了一个简单有效的 sanity check 方法,值得在评估流程中加上。原文稍后读已读值得跟进有用关注 推理模型
13:26官方一手arXiv: DeepSeek@Chenjun Xu, Zhennan Zhou, Zhan Su, Bill Howe, Lucy Lu Wang, Bingbing Wen精选长链推理(Long CoT)虽能提升多步推理性能,但常导致模型过度思考,产生低效推理,增加推理成本。STOP 提出一种结构化在线策略剪枝算法,通过自蒸馏、节点分割和推理树构建,识别并保留最早的正确推理节点(ECN),去除冗余推理。在 DeepSeek-R1-Distill-Qwen-7B 等模型上,STOP 在低数据微调场景下减少 19.4%-42.4% 的生成 token,同时基本保持准确率。该方法比教师引导剪枝带来更小的分布偏移,并将推理努力从冗余验证转向更高效的探索。论文推理模型剪枝/优化低数据微调推荐理由:做推理模型微调或部署的团队,STOP 解决了低数据场景下长链推理成本高的问题,直接减少 token 消耗,建议试试这个轻量剪枝方案。原文稍后读已读值得跟进有用关注 推理模型
19:03官方一手arXiv: DeepSeek(学术论文)70°该研究揭示了共享输出Token预算时,长思维链会挤占答案空间,导致准确率下降的“耦合税”现象。在GSM8K、MATH-500等任务中,非思维链模式在≤2048 Token下表现更优,且Qwen3模型呈逆缩放规律。作者提出截断-浪费分解模型预测关键点,并通过拆分预算生成方法(如IRIS)将MATH-500准确率提升至83.6%。结果表明测试时推理应被视为预算分配问题。论文思维链Token预算推理模型推荐理由:该工作对当前LLM推理优化具有实际指导意义,提醒研究者在固定输出长度场景中平衡推理链与答案空间,避免盲目延长思维链。原文稍后读已读值得跟进有用关注 思维链