7月10日
09:36
09:36官方账号arXiv cs.AI@Xinlong Zhao, Dongsheng Liu, Hengyu Zhao, Zixuan Fu, Zheng Wang, Jie Cai, Jie Zhou, Qiang Ma, Xuanhe Zhou, Xu Han, Yudong Wang, Zhiyuan Liu
UltraX 提出一种函数调用精炼框架,通过引入插入操作完成编辑函数空间,实现细粒度实例级编辑。该框架通过数据集自适应提示优化指导专家LLM生成高质量精炼文本,再通过行对齐映射和动态上下文替换转换为结构化程序监督。实验表明 UltraX 在所有语料库上取得最高平均性能,并使用更少训练 token 匹配或超越基线,展现更强数据效率和精炼可靠性。
推荐理由:UltraX 搞了个新框架,用程序化编辑替代传统规则和LLM方式,既能细粒度编辑又保证效率,精炼预训练数据效果不错。
7月1日
10:33
10:33官方账号arXiv cs.AI@Ekaterina Alimaskina, Denis Shveykin, Gleb Molodtsov, Igor Shalygin, Alexey Kadeishvili, Aleksandr Beznosikov
语言模型越来越多地使用自生成的问答数据来微调或蒸馏。研究表明,生成阶段并非中性预处理,而是隐含策略:模型在提问时不会均匀扫描文档,覆盖很快饱和并集中在显著区域,不同提示也会聚焦相同片段。在回答阶段,模型倾向于服从文本中嵌入的指令性内容,且这种服从取决于指令的表面形式和意图。作者通过将每个问题固定到特定目标降低了选择偏差,并在回答前过滤指令性文本,将注入合规率从88%降至13%,同时保留几乎所有干净文本。
推荐理由:这篇论文告诉你,用模型自己问自己生成的问答数据来训练模型,可能会引入隐蔽的偏见和指令注入风险。他们用一个简单方法就能把问题率从88%压到13%,值得做数据合成的同学看看。
6月2日
06:20
06:20Richard Socher@RichardSocher
LangChain 联合 Deep Agents 和 You.com 的 Finance Research API,构建了一个宏观研究智能体,能够分析 GDP 数据、检测异常、调查行业层面的结构性和周期性驱动因素,并生成结构化、带引用的简报。该智能体在竞争激烈的基准测试中取得了显著提升,展示了高质量数据对 AI 金融应用的重要性。这一进展表明,金融领域 AI 智能体的能力正从简单问答向复杂分析演进。
推荐理由:金融从业者和 AI 开发者终于看到智能体在真实场景中的突破——这个宏观研究代理能自动完成 GDP 分析、异常检测和结构化报告,做量化分析或金融研究的团队可以直接参考其架构。