全部 AI 动态 · AI 热点

7月20日

09:30

官方账号arXiv cs.AI@Andrea Ferrario

该论文提出一种轻量级方法，用于AI治理中的可审计可信度水平评估。方法包括两个组件：基于上下文敏感协议的形式化框架，通过可解释规则（如决策树）学习可信度水平；以及面向合规的生命周期治理流程，涵盖设计标注、部署监控、重新评估与报告。在合成AI生命周期轨迹上验证了方法，涉及退化、冲击、更新等场景。方法不取代法律判断，而是为AI治理相关变化提供证据基础。

论文 AI治理可信度生命周期

推荐理由：这篇论文给出了AI系统生命周期可信度评估的具体方法，用决策树生成可读的规则和阈值，适合做治理合规的工程师看看。

原文

09:29

官方账号arXiv cs.AI@Vipul Gupta, Zihao Wang, Razvan-Gabriel Dumitru, MohammadHossein Rezaei, Aakash Sabharwal, Yunzhong He

CRAFT是一种新方法，将基于评分标准的评估数据集转化为模型特定弱能力诊断。它从每个提示-评分标准对中提取能力描述，聚类成层次能力树，在4个开源模型、金融和法律两个领域及13个保留基准上评估。在金融领域，CRAFT对所有4个模型的平均分超过基线；在法律领域，对4个模型中的3个表现最强。结果表明，基于评分标准诊断比基于提示或类别能更精确地定位模型弱能力，并生成更有效的微调数据。

论文 CRAFT 微调能力诊断

推荐理由：CRAFT能帮你找到模型具体弱在哪里，不是笼统说不行，而是通过评分标准拆解能力，还能自动生成训练数据修bug。金融和法律测试里比随机采样效果好很多。

原文

09:28

官方账号arXiv cs.AI@Wilber Sean Anterola, Matthew Ball, Luis F. Lafuerza, Markov Grey

前沿AI公司公布的能力阈值差异显著，使得第三方难以验证阈值是否被超过或跨公司比较需求。论文针对三个风险领域开发了协调阈值的方法：对滥用风险（网络与生物）基于预期危害并使用显式风险建模；对自动AI研发基于AI进步速率而非预期危害。该分析扩展了先前工作并指出了现有实证差距与局限性。

论文 AI安全阈值协调风险建模

推荐理由：这篇论文给了我们一套统一安全阈值的方法，让不同公司的标准能对齐，避免恶性竞争。如果你关心AI安全怎么落地，可以看看。

原文

09:27

官方账号arXiv cs.AI@Jingyan Shen, Ang Li, Salman Rahman, Yifan Sun, Micah Goldblum, Matus Telgarsky, Pavel Izmailov

该论文以国际象棋为受控测试平台，对5M至1B参数的语言模型进行预训练、监督微调和基于可验证奖赏的强化学习后训练。实验发现，后强化学习阶段的性能可由预训练损失准确预测，且奖励曲线斜率随预训练token数近似线性提升。强化学习并未简单锐化监督微调策略：在简单问题上增强已有正确动作，在难题上则浮现出监督微调下几乎不存在的正确动作。该规律在1B参数的数学领域语言模型上得到验证。

论文推理模型强化学习预训练

推荐理由：这篇论文用象棋做实验，清晰展示了预训练对强化学习效果的预测关系，1B模型验证了规律，读起来很扎实。

原文

09:26

官方账号arXiv cs.AI@Hanyang Chen, Anirudh Satheesh, Longchao Da, Hua Wei

DADiff 是一种用于强化学习的扩散驱动跨域策略适应框架，解决源域与目标域动态失配问题。该方法通过扩散模型在生成下一状态时捕获源域和目标域生成轨迹差异来估计动态失配，并开发了奖励修改和数据选择两种变体以适应目标域。理论分析表明，给定策略在两个域间的性能差异被生成轨迹偏差所界定。在多种偏移环境下的实验结果表明，DADiff 优于现有方法，有效解决了动态失配。

论文 DADiff 扩散模型强化学习

推荐理由：这篇论文用扩散模型来对齐强化学习中的不同环境动态，不用额外复杂设计就能搞定域适应，比现有方法好。

原文

09:23

官方账号arXiv cs.AI@Bhavana Verma, Priyanka Meel, Dinesh Kumar Vishwakarma

论文提出HCIG和GCCN两个新框架，以建模文本与图像之间的多粒度语义不一致。在MMSD讽刺检测基准上，HCIG达到85.74%准确率和85.29%宏F1。在MultiBully网络霸凌数据集上，GCCN宏F1为68.66%，HCIG准确率69.62%、霸凌类F1 74.90%。实验表明分层多粒度不一致建模优于传统融合策略，为多模态推理提供有效方法。

论文 HCIG GCCN MMSD

推荐理由：这篇论文提出了HCIG和GCCN，在MMSD和MultiBully上分别达到85.74%和69.62%准确率，比传统融合方法更善于捕捉图文矛盾。

原文

09:22

官方账号arXiv cs.AI@Haoran Sun, Wentao Zhang, Junyang Hua, Hedan Yang, Yongjian Guo, Yifei Zhang, Xiaolong Xiang, Mingxi Luo, Jing Long, Chen Zhao, Chen Zhou, Wanting Xu, Qiming Yang, Hui Zhang, Song Wang, Xiaodong Bai, Shuai Di, Xu Chu, Xiaotie Deng, Yicheng Gong, Junwu Xiong

JoyNexus是一个统一服务，支持多租户VLA模型的监督微调、强化学习和评估。它通过解耦Training Model Service、Inference Model Service和Environment Service，租户通过API调用。采用group batching技术，使不同VLA数据模式共享一个前向传播，提升训练效率。实验表明，相比单租户独立执行，JoyNexus减少了总GPU时间并提高了服务利用率。

论文 JoyNexus VLA 多租户

推荐理由：做VLA模型微调或机器人仿真的团队可以看看，JoyNexus用分组批处理省GPU资源，多租户场景下效率更高。

原文

09:20

官方账号arXiv cs.AI@Mazene Ameur, Abdelkader Mekrache, Bouziane Brik, Adlen Ksentini

该论文以教程与综述形式，系统梳理了LLM驱动的智能体AI在5G/6G网络中的应用。Part I形式化5G/6G的控制、管理和AI原生平面，涵盖推理、规划、工具使用、多智能体协调等基础。Part II将智能体能力映射到5G/6G控制面、标准组织及6G主要倡议，指出开放挑战。文章弥补了协议集成、评估和标准化对齐的研究空白。

论文 LLM 5G 6G

推荐理由：这篇综述把LLM智能体怎么用在5G/6G网络上讲清楚了，覆盖架构、协议和标准化，做通信AI的可以看看。

原文

09:19

官方账号arXiv cs.AI@Iker Moran-Cavero, Monica Hernandez, Elvira Mayordomo, Naiara Artiaga, Beatriz Pardiñas, Beatriz Cordon, Elena Garcia-Martin

该论文针对OCT图像中视网膜层分割因散斑噪声、伪影、域偏移等挑战，提出一种以中央凹为中心的空间归一化预处理框架。该方法在7种深度学习架构上评估，结合B-scan级的重叠度量、A-scan级的拓扑感知度量和en-face级的厚度度量。无真实标签时，论文提出无需标注的拓扑违反定量指标和基于厚度的定性评估。实验表明空间归一化显著提升分割鲁棒性和一致性，有助于神经退行性疾病中的生物标志物提取。

论文 OCT 视网膜层分割空间归一化

推荐理由：这篇论文解决了OCT分割跨域泛化难题，用空间归一化让不同来源的数据对齐，实验扎实，适合研究视网膜影像和医学图像分析的朋友。

原文

09:18

官方账号arXiv cs.AI@S. Aaron McClendon

研究首次将模型合并与联合多任务训练在强化学习场景下直接对比。使用Qwen3-8B专才在AppWorld智能体基准上通过LOOP训练难度1和难度2任务，合并方法（TIES、RAM+）与联合训练模型相比，任务目标完成率无统计差异。任务向量余弦相似度仅0.06-0.10，近正交但支撑集重叠约65%，导致支持&符号合并退化为近均匀平均。所有代码和统计数据已开源。

论文 Qwen3-8B AppWorld TIES

推荐理由：这篇论文用Qwen3-8B做了AppWorld上的合并vs联合训练对比，发现合并效果不输联合训练，而且解释了为什么不同合并方法结果差不多。

原文

09:15

官方账号arXiv cs.AI@ SciForge Team, Zhangyang Gao, Minghao Fang, Yifei Liu, Hanhui Yang, Xinyu Gu, Shixiang Tang, Siqi Sun, Lei Bai, Cheng Tan, Mengdi Liu, Hao Wu, Shuizhou Chen

arXiv 论文提出 SciForge，一个专为科学研究设计的 AI 原生多模态工作台。该工作台基于五个核心理念构建：目标导向的决策治理、先翻译后推理的多模态处理、可审计的证据链、协作式团队科学以及实际应用场景。论文通过八个端到端用户案例验证，包括基因发现、从头蛋白质设计、分子优化等旗舰演示。SciForge 目前为桌面应用，已开源在 GitHub 上。

论文 SciForge 多模态智能体

推荐理由：想用 AI 管理整个科研流程？SciForge 把论文、代码、数据整合成可追溯的工作状态，还帮你做基因发现和蛋白质设计，开源可玩。

原文

09:14

官方账号arXiv cs.AI@Olayiwola Arowolo, Maosheng Yang, Jochen Cremer

该论文提出使用表格基础模型（TFM）进行电力系统预故障动态安全评估，无需针对每个故障单独训练分类器。在IEEE 68-bus系统上，单个TFM仅用每个故障120个标记样本（约为传统所需样本的1%）即可达到约90%的平均Macro F1得分，且无需重训练或超参数调优。对于未见过的故障，仅用10个新故障样本配合电气距离坐标（EDC）编码，就能匹配最佳迁移学习模型性能。

论文 tabular foundation model dynamic security assessment IEEE 68-bus

推荐理由：看看这个新思路：用表格基础模型做电力系统安全评估，每个故障只需要120个样本就能达到九成准确率，比传统方法省了两个数量级的标注数据。

原文

09:13

官方账号arXiv cs.AI@Yu-Chao Hsu, Yu-Cheng Lin, Tai-Yue Li, Nan-Yow Chen, En-Jui Kuo

论文提出量子弹性权重巩固（QEWC），基于量子Fisher信息（QFI）量化参数化量子态的内在敏感性。与传统弹性权重巩固（EWC）依赖经典Fisher信息（CFI）不同，QEWC从信息几何角度识别重要参数。在变分量子分类器（VQC）的序列二分类任务（包括经典图像分类和量子相分类）上验证，QEWC和CFI-EWC均能改善先前任务的保留。机制分析显示，CFI作用于测量敏感方向，而QEWC施加更密集的状态几何约束；在退极化噪声下，CFI值被抑制而QFI保持稳定敏感性结构。

论文 QEWC QFI VQC

推荐理由：想看量子机器学习怎么防遗忘？这篇用QFI替代传统方法，在VQC上效果更稳。

原文

7月17日

12:28

官方账号arXiv cs.LG@Qi Li, Xingyi Yang, Xinchao Wang

BadWAM提出了一种针对世界-动作模型（WAM）的统一对抗攻击框架，利用微小视觉扰动破坏模型对动作与未来预测的耦合。该框架包含两种攻击：动作对抗攻击直接将任务成功率从96.5%降至43.1%；想象保持攻击则在维持未来预测接近原始结果的同时诱导有害动作偏移。实验揭示了WAM特有的漏洞：模型可能想象出合理的未来，但执行的动作已失配。

论文 BadWAM World-Action Models 对抗攻击

推荐理由：这篇论文发现WAM模型有严重安全漏洞——加一点点视觉干扰，机器人就会想象正常但行动出错，成功率从96%掉到43%。搞机器人安全的得看看。

原文

12:25

官方账号arXiv cs.LG@Ahmet Demirkaya, Georgios Stratis, Tales Imbiriba, Zachary D. Danziger, Deniz Erdogmus

本文提出混合神经-物理框架，将已知ODE组分保留、未知组分用神经网络表示。方法分两阶段：先用RTS平滑器从部分观测推断潜在状态，再用平滑轨迹通过反向传播学习神经网络参数。在包含线性、非线性和刚性动力学的基准系统上评估，该方法能从不完整测量中学习缺失ODE组件，同时保持可解释性，并改善潜在状态重建和长时预测。

论文 RTS smoother 神经微分方程混合建模

推荐理由：这篇论文用RTS平滑器引导神经网络学缺失的微分方程，部分观测下就能恢复动力学，还能保持模型解释性。

原文

12:08

官方账号arXiv cs.LG@Byeongho Heo, Jaehui Hwang, Sangdoo Yun, Dongyoon Han

On-Policy Delta Distillation (OPD²) 引入delta信号，定义为教师模型与其未经推理指令微调的基础模型之间的差异。该方法在数学、科学和代码推理基准上一致优于传统on-policy蒸馏。实验表明，仅需短期后训练即可使推理LLM达到强性能。代码已在GitHub开源。

论文 OPD² 蒸馏推理模型

推荐理由：这篇论文用老师模型和基础模型的差值做蒸馏信号，比直接模仿老师更强，数学代码推理都更好，训练时间还短。

原文

12:06

官方账号arXiv cs.LG@Sridhar Mahadevan

这篇论文提出了一个范畴框架LINCS，用于修复机器学习中的非组合性问题。它将机器学习问题指定为草图，包含图、交换条件、极限锥和余极限锥。非组合性被定义为通用分解问题的失败，而非预测误差。论文引入了Tangent Learning Sketches和INC endofunctor，利用Aczel-Mendler定理证明了最终INC余代数的存在性。实验评估正在深度学习和强化学习等场景中进行。

论文 LINCS 范畴论机器学习

推荐理由：这篇论文用范畴论搞了个LINCS框架，专门修复模型中的非组合性问题，数学推导扎实，适合想深挖机器学习理论的人。

原文

11:57

官方账号arXiv cs.LG@Baback Elmieh, Lynn Tsai, Zeman Li, Srinivas Kaza, Tiancheng Sun, Gabor Csapo, Ali Behrouz, Yuan Deng, Stephen Lombardi, Steven M. Seitz, Xuan Luo

该方法将记忆更新与记忆应用解耦，记忆更新周期进行、记忆应用逐帧完成，并采用跨视角注意力处理记忆状态与当前帧之间的形变。引入辅助Memory Loss强制模型内化场景历史，Memory Caching策略防止主动权重灾难性漂移。在动态人体运动场景上实现实时处理，SOTA性能，支持分钟级在线记忆。

论文新视角合成动态场景记忆机制

推荐理由：这篇论文提出一种新的动态视角合成方法，通过分开记忆更新和应用的频率，实现了实时处理，而且能记住长视频里的短暂遮挡区域。

原文

11:56

官方账号arXiv cs.LG@Arthur G. Bubolz, Abreu Quevedo, Giancarlo Lucca, Rafael A. Berri, Eduardo Borges, Bruno L. Dalmazo

该研究提出一种结合链上数据、金融指标和推特情绪来分类比特币市场情绪的新方法，而非预测价格。使用XGBoost模型进行情绪分类，平均F1-score达到约0.84。通过SHAP方法量化不同链上特征对模型预测的贡献，增强了可解释性。结果显示该数据组合能提供有意义的预测信号，支持数据驱动的加密货币分析。

论文 Bitcoin XGBoost SHAP

推荐理由：这篇论文用链上交易数据和推特情绪来给比特币情绪分类，XGBoost模型F1到了0.84，还用了SHAP解释特征重要性，对做加密货币分析的人有参考价值。

原文

11:55

官方账号arXiv cs.LG@Hector J. Garcia, Nick Clayton

论文 Mutable Low-Rank Sketches KP-tree 推荐系统

推荐理由：这篇论文提出了一种不用重训练就能实时更新用户嵌入的方法，用KP-tree存储偏好，在KuaiRec上只用1.8%数据就比ALS效果好，速度还快8倍。

原文

11:52

官方账号arXiv cs.LG@Aniruddhan Ganesaraman, VIdyadhar Kulkarni

该论文研究在寿命分布未知时，通过数据驱动算法学习最优块更换间隔k*。算法采用随机多臂赌博机框架，Hoeffding和Bernstein下置信界算法实现O(K log T)的遗憾，匹配Lai-Robbins下界。利用块更换的嵌套观测特性，相关变体达到O((K-k*) log T)的遗憾，仅需O(1)次直接拉动次优臂。Kaplan-Meier更新算法从删失数据非参数估计寿命分布，实现几乎必然策略一致性和渐近零增量遗憾。数值实验验证了理论排序，并揭示了最优块更换与年龄依赖更换之间的结构性成本差距。

论文块更换调度多臂赌博机 Kaplan-Meier

推荐理由：这篇论文提出了数据驱动的块更换调度算法，用多臂赌博机方法优化维护成本，在理论遗憾界和实际效果上都有亮点，搞运筹或机器学习的人可以看看。

原文

11:31

官方账号arXiv cs.AI@Yasheng Sun, Zezi Zeng, Yifan Yang, Chong Luo, Wenyi Wang, Ziwei Liu, Jürgen Schmidhuber

SciDiagramEdit是一个从自然论文修订中学习编辑科学图表的基准和技能演化框架。该基准从arXiv版本历史中挖掘前后图表对，每对都附有作者的修订意图。框架采用智能体学习，通过技能演化不断优化代理的技能规范，提升编辑准确性。实验表明，在保留验证集上，技能逐步提高了编辑准确率，证明自然论文修订是有效的指令驱动图表编辑训练信号。

论文 SciDiagramEdit arXiv 论文

推荐理由：这篇论文提出了一个从论文修订数据中学习编辑科学图表的框架，还附带了一个基准，适合想做图表自动化编辑的研究者看看。

原文

11:30

官方账号arXiv cs.AI@Victoria Graf, Hannaneh Hajishirzi, Noah A. Smith, David Kohlbrenner, Kyle Lo

该论文提出通过公共讨论界面（如论坛评论）向大语言模型预训练数据注入恶意内容的攻击方法。作者引入HalfLife分析工具，用于评估网络爬虫数据中是否包含对抗性内容。实验表明，基于维基百科等传统数据源的投毒假设不适用于真实的大规模异构预训练语料库。研究强调第三方网页内容可能成为攻击语言模型预训练的潜在向量。

论文 HalfLife 语言模型 AI安全

推荐理由：这篇论文讲了一种真实的预训练数据投毒方式——通过论坛评论注入恶意内容，还给出了分析工具HalfLife，搞AI安全的值得看。

原文

11:29

官方账号arXiv cs.AI@Mingfei Chen, Zijun Cui, Ruoke Zhang, Hyeonggon Ryu, Eli Shlizerman

SceneBind 是一种全模态表示方法，通过联合语义和 3D 空间理解来建模真实场景。它使用全局语义嵌入与对象中心语义-空间槽，显式编码对象级语义、空间属性和不确定性。SceneBind Matching 方案整合全局场景相似性与对象对齐，支持跨模态场景检索和对象定位。在场景检索和空间检索基准上达到 SOTA，并在音频-视觉定位任务上实现零样本迁移。

论文 SceneBind 全模态表示 3D场景理解

推荐理由：SceneBind 把场景的“是什么”和“在哪里”一起建模，场景和空间检索都做到了 SOTA，还能零样本搞定音视频定位。

原文

11:28

官方账号arXiv cs.AI@Paul Kassianik, Blaine Nelson, Yaron Singer

这篇论文评估了安全代理的成本-成功表现，使用进攻性Cybench挑战和防御性Splunk BOTS v1挑战。作者比较了不同模型在固定成本水平下的成功率，并分解了推理成本和工具成本。结果显示，进攻性CTF任务性能随测试时间计算增加而提升，开源模型可以比肩前沿专有系统。防御性SOC调查任务的成功更依赖于工具使用和遥测导航而非单纯推理预算。论文建议安全代理基准应同时衡量经济效率和操作适应性。

论文 Cybench Splunk BOTS v1 Security Agents

推荐理由：这篇论文把安全代理的评估从只看成功率，改成同时算成本账。用Cybench和Splunk BOTS v1实测，发现开源的进攻型代理性价比不错，但防御型代理光给推理预算不够，得改进工具使用。

原文

11:27

官方账号arXiv cs.AI@Yuyao Zhang, Junjie Gao, Zhengxian Wu, Jiaming Fan, Jin Zhang, Shihan Ma, Yao Yao, Weiran Qi, Chuyan Jin, Guiyu Ma, Xingzhong Xu, Kai Yang, Ji-Rong Wen, Zhicheng Dou

SearchOS是一个系统级多智能体协作框架，旨在解决工具集成大语言模型在信息检索中的重复搜索和预算浪费问题。它通过关系型模式补全和基于引用的证据填充，将隐式搜索进度显式化，并设计了Search-Oriented Context Management (SOCM) 来管理进化状态，包括Frontier Task、Evidence Graph、Coverage Map和Failure Memory。在WideSearch和GISA两个基准上，SearchOS在所有评估指标上均领先于单智能体和多智能体基线模型。

论文 SearchOS 多智能体信息检索

推荐理由：多智能体协作搜索老是卡壳？论文提出SearchOS，用显式状态管理和管道并行调度解决重复循环，在WideSearch和GISA上全面领先。搞检索智能体可以看看。

原文

11:26

官方账号arXiv cs.AI@Qiwei Li, Jorge Ortiz

交通机构拥有大量视频数据，但观测数据难以回答因果问题。teLLMe系统结合PC算法进行因果结构学习，通过bootstrap稳定性检查和DoWhy库进行效应估计。用户可用自然语言指定处理变量、结果和子群体，系统返回“Causal Card”展示效应估计、调整集和DAG支持。案例基于BDD数据集表明，该系统能发现天气、高峰时段与交通密度之间的合理关系。

论文 teLLMe BDD 因果推断

推荐理由：想用自然语言问交通因果问题？teLLMe这个新框架可以帮你，它用PC算法和DoWhy分析BDD驾驶数据，结果以Causal Card呈现，直观清晰。

原文

11:25

官方账号arXiv cs.AI@Moein Taherinezhad, Sebastian Maier, Gerardo Vitagliano, Francesco Pierri, Stefan Feuerriegel

AutoSynthesis是一个端到端多智能体系统，输入自然语言研究问题后，自动生成搜索策略、检索文献、筛选28项研究、提取20多个定量声明，并计算标准化效应量进行随机效应元分析。系统支持异质性分析和偏倚风险评估，输出符合PRISMA指南的报告。其汇集效应估计与专家手动元分析的Hedges' g结果高度一致，表明自动元分析可规模化。

论文 AutoSynthesis 元分析智能体

推荐理由：AutoSynthesis能自动完成整条元分析流水线，效果媲美专家手工操作，让证据综合不再依赖人工

原文

11:24

官方一手arXiv: DeepSeek@Filippos Vlahos, Guillaume Bied, Tijl De Bie

一项大规模政治偏见研究分析了1394对政府官员条目，使用Grok、Claude、Mistral和DeepSeek四个LLM裁判评估Grokipedia与Wikipedia的中立性。结果显示所有LLM裁判均认为Grokipedia中立性低于Wikipedia。Grokipedia明显偏向经济右翼政治家，而Wikipedia则偏向社会自由派。研究表明LLM撰写的百科并未实现更高中立性，反而嵌入不同意识形态。

论文 Grokipedia Wikipedia Grok

推荐理由：这篇论文用四个LLM当裁判，比较了Grok写的百科和维基百科的政治中立性，结果发现Grok版也不中立，甚至更偏，还各有倾向。

原文

11:22

官方一手arXiv: DeepSeek@Saima Afrin, Alessandro Midolo, Camilo Escobar-Velásquez, Mario Linares-Vásquez, Weiyuan Ding, Bowen Xu, Massimiliano Di Penta, Antonio Mastropaolo

该研究分析了GPT-4o mini、DeepSeek和Claude在460个编程任务（Python和Java各230个）上的代码生成质量，将英文提示翻译并人工校订为中文、印地语、西班牙语和意大利语。通过测试通过率、代码度量标准和静态分析工具评估，发现英文提示并非总能产生最佳功能正确性或代码质量，提示语言的影响取决于编程语言和LLM，且生成的代码常在注释和字符串中混合英语与提示语言。这是首个用于研究代码生成中语言偏差的精选多语言基准。

论文 GPT-4o mini DeepSeek Claude

推荐理由：想了解提示语言怎么影响代码生成质量？这篇实测了GPT-4o mini、DeepSeek和Claude在多种语言下的表现，结果英文不一定最好。

原文

11:20

官方账号arXiv cs.AI@Jimmy T. H. Smith, Tarek Dakhran, Alberto Cabrera, Simon S. Lee, Paul Pak, Aditya Tadimeti, Tim Seyde, Maxime Labonne, Alexander Amini, Mathias Lechner

固定分词器在预训练后对新语言无效，导致每个词被拆成更多token，增加延迟和计算。论文提出原地扩展方法，在现有BPE合并基础上继续添加新token，每个新token可精确分解为源token。将该方法应用于LFM2-8B-A1B（8B参数MoE模型），得到LFM2.5-8B-A1B，词汇量从原tokenizer扩展至128K。扩展后，印地语和越南语的token数分别减少约2.4倍和2.6倍，泰语减少高达4.0倍。结合大词汇量的每token成本，估计参考设备上这些语言的每字解码速度提升2.2-3.7倍。

论文分词器扩展 LFM2-8B-A1B LFM2.5-8B-A1B

推荐理由：想给模型加新语言但不想从头训？这篇论文的原地分词器扩展办法，让LFM2.5在印地语和越南语上token数砍半，解码快3倍，代码和权重都开源了。

原文

11:19