AITOP

上下文学习

共 27 条相关 AI 资讯
8月18日
15:25
15:25官方账号arXiv cs.AI@Minh-Ha Nguyen, Cathy Shyr
PIHF（Policy Iteration with Human Feedback）提出了一种利用预训练语言模型作为执行基底，通过版本化的自然语言策略和工具集进行持续改进的方法。该方法结合了语言模型评论家和临床专家的审查，以定位重复失败并形成候选修订。在超罕见疾病基准测试中，PIHF派生的策略在多个执行器上提升了Recall@1，其中GPT-5.4提升32.7个百分点，Qwen3.6-35B提升31.1个百分点。结果表明，固定权重的预训练语言模型可用于专家引导的策略开发。
论文PIHF上下文学习强化学习
推荐理由：PIHF把强化学习的迭代改进搬到了上下文学习里，用语言模型当执行器，专家审阅改进，罕见病诊断上Recall@1提升明显，值得一看。
原文
8月17日
10:31
10:31官方账号arXiv cs.AI@Masahiro Kato, Taka Kato
该论文将跨会话信息传递形式化为任务相关的上下文学习（ICL）状态交接，并区分了精确恢复早期材料与保留目标分布。在外生性条件下，预测等价性刻画了最粗的确定性充分交接，并给出固定长度的比特需求。作者提出三部分记录：精确存储决策与约束，用任务论证的统计量保存重复证据，并保留未被统计量覆盖的原始观察。高斯线性回归得到精确的有限维交接和有限比特扰动界，非参数回归则给出记忆与平方预测误差之间的上下界。
论文上下文学习会话交接LLM
推荐理由：这篇论文把跨会话交接讲透了，给出最小充分交接的比特需求和高斯线性回归的精确结果。做长会话AI应用的值得看看。
原文
8月13日
18:05
17:52
17:52AI Engineer@aiDotEngineer
精选
在记忆与持续学习专场，演讲者举例称 ChatGPT 认为 Shlok Khemani 在 2025 年去过土耳其，但他从未去，模型只是读过他犹豫要不要去的对话，无法识别记录冲突。在首个真实持续学习基准上，普通上下文学习击败了专用记忆系统。将策略自蒸馏扩展到 100 次工具调用后，教师模型的频繁纠正会让模型退化成一个劲说“maybe”。另一个实验里，教师不改动工具调用 token，只重塑调用前的推理，就把智能体任务完成率从 22% 提到 60%。演讲者还提醒，智能体不擅长发现异常，最好直接让它调查你已经发现的异常。
论文ChatGPT持续学习上下文学习
推荐理由：记忆专场金句：ChatGPT 记错旅行，上下文学习赢过专用记忆，改推理就让任务完成率从22%提到60%。
原文
17:49
17:49官方账号arXiv cs.AI@Arda Uzunoglu, Benjamin van Durme, Daniel Khashabi
精选
一篇arXiv论文提出信息丰裕悖论，认为训练上下文中相关信息过多会降低模型将其参数化编码的动机。预训练阶段扩大上下文窗口虽能提升语言建模、自然语言理解和closed-book MCQA，但只在中间最优值内有效，之后持续下降。监督微调时，更多任务相关上下文虽能提升带支持场景的表现，却削弱了测试时缺少或误导上下文时的鲁棒性。机制分析显示，长上下文将梯度压力从前馈网络转向注意力模块，导致推理时更依赖上下文。结论表明，追求无限上下文并非简单堆数据。
论文长上下文参数化知识上下文学习
推荐理由：这篇论文说长上下文训练反而会让模型记不住知识，上下文越长越依赖临时找资料。想调长上下文的人建议先看看。
原文
8月11日
11:51
11:51官方账号arXiv cs.AI@Björn Engdahl, Adrian Kosowski, Jan Chorowski, Zuzanna Stamirowska, Przemysław Uznański, Junlin Jiang, Rohan Phadke, Remigiusz Kinas, Richard Zhong
BDH-CQ 是一种结合上下文学习与循环潜在推理的推理模型，推理时输入持续更新模型记忆，并在高维潜在空间迭代计算，不输出中间推理过程。在 ARC-AGI-1 公开评测集上，150M 参数配置达到 29.5% pass@2，单任务推理成本仅 0.0007 美元。该结果突破了 ARC-AGI-1 此前报告的成本-准确率帕累托前沿，树立了新的基准成本效率标杆。研究还通过受控 ARC 干预实验，分析了模型从演示中学习的内容、应用推断变换的一致性及难点概念。
论文BDH-CQARC-AGI-1推理模型
推荐理由：这个模型用循环潜在推理做上下文学习，150M 参数在 ARC-AGI-1 上花 0.0007 美元就拿到 29.5% 的 pass@2，性价比直接刷新纪录，值得看看它怎么做到的。
原文
8月7日
12:37
12:37官方账号arXiv cs.LG@Xian Sun, Wei Chow, Yingshuo Wang, Junhao Liu, Wei Gao, Qing Wu, Lingdong Kong
论文提出MIST基准，将每道推理题置于干净、误导、正确上下文、无关上下文四种条件下。配套SC2W指标衡量误导信号使原本正确答案变错的频率。作者发现该脆弱性在多种开源模型上普遍存在。提出的SCOPE方法通过匹配偏好对优化DPO目标，在保持干净上下文准确率的同时显著降低SC2W。
论文MISTSC2WSCOPE
推荐理由：这篇论文把“信不信上下文”当成独立问题来训练，用MIST测出模型容易被一条错误信息带偏，SCOPE能减少这种翻车还不影响正常表现。
原文
8月5日
11:46
11:46官方账号arXiv cs.LG@Tianyi Guan, Yiding Wang, Haotong Yang, Siyuan Cao, Shirui Liu, Yi Hu, Jiaqi Li, Muhan Zhang
新基准 ContinualSkillBench 用于评估智能体的持续技能学习，覆盖五个领域、100 个按难度递增且可复用技能的互联子任务。实验表明序列执行总体能提升性能，但收益因模型和领域而异。上下文学习与显式技能维护平均表现相当，显式技能只在需要可复用流程或精确输出的任务上更有优势。较弱模型反而会积累更大、更碎片化的任务技能集合。
论文ContinualSkillBench智能体持续学习
推荐理由：这篇论文给了一套测试方法，来验证 LLM 智能体到底会不会把经验变成可复用的技能，而不是光靠记住上下文。
原文
7月15日
23:52
23:52Jim Fan@DrJimFan
76°
研究团队推出RoboTTT模型，通过测试时训练（TTT）机制，将机器人策略的上下文窗口从不足0.1秒扩展到8000时间步（约5分钟），推理成本保持恒定。该模型在上下文长度上比现有SOTA提升了3个数量级。实验显示，从128到8000时间步，闭环性能持续提升，8K预训练比1K提升62%。RoboTTT支持从人类视频进行一次性上下文学习，并能在执行过程中自我纠正错误。
AI模型RoboTTT机器人模型上下文学习
事件专题
推荐理由：机器人模型终于能记住5分钟内的动作了！RoboTTT用TTT方法让机器人从人类视频一次学会新任务，还能边干边自我纠错，性能随上下文增长持续提升。
原文
7月14日
09:21
7月3日
09:22
6月26日
03:07
6月19日
11:43
6月10日
12:36
12:36官方账号arXiv cs.AI@Xuan Han, Yihao Zhao, Mingyu You
精选
Pose-ICL 是一种无需微调的框架，通过3D感知的上下文学习（ICL）实现姿态可控的主体定制。其核心机制 Surface-Anchored Position Embedding (SAPE) 将图像标记锚定到体积边界框的表面坐标，赋予模型显式的3D感知能力。该方法解决了现有2D模型在主体定制中姿态不准确和跨姿态外观不一致的问题。实验表明，Pose-ICL 在3D资产和真实主体上均显著优于现有方法，在姿态准确性和身份一致性上表现突出。该框架与现有DiT模型兼容，可直接应用。
论文主体定制3D感知上下文学习
推荐理由：做图像生成和主体定制的团队终于有了一个能精准控制姿态的方案——Pose-ICL 用3D感知解决了2D模型的老大难问题，做定制化生成的开发者可以直接试试。
原文
6月9日
11:39
11:39官方账号arXiv cs.LG@Tuan A. Vu, Harri Lähdesmäki, Julien Martinelli
精选
潜空间贝叶斯优化（LSBO）用于分子和蛋白质等结构化对象的设计，但现有上下文学习模型（如TabPFN）在LSBO中存在任务不匹配问题：它们预训练于标准回归任务，而LSBO中潜码到目标值的映射差异显著。研究者提出通过分子VAE的潜空间合成优化任务对表格基础模型进行持续预训练，并加入正则化项保持原始回归先验。在分子优化基准上，该模型表现强劲，验证了LSBO特定适配对上下文代理的重要性。这项工作为AI驱动的分子设计提供了更高效的优化方法。
论文贝叶斯优化潜空间优化分子设计
推荐理由：做分子设计或材料优化的团队终于有了适配LSBO的上下文学习代理——它解决了预训练任务与潜空间优化不匹配的痛点，直接提升分子优化效率，建议做AI制药或计算化学的开发者试试。
原文
6月8日
09:38
09:38官方账号arXiv cs.AI@Sercan Karakaş, Yusuf Şimşek
该研究针对土耳其语中具有歧义的轻动词结构（LVC）进行分类，区分其字面义与习语义。研究者对比了监督学习模型（BERTurk）与三种指令微调大语言模型（LLM）在零样本、单样本和少样本提示下的表现。结果显示，零样本下LLM对LVC召回率低，单样本提示虽提升检测但引入模型特定偏差，而少样本提示能改善校准。最终，监督基线仍具竞争力，但精心设计的示例可使LLM在LVC分类上达到或超越监督模型。
论文多词表达土耳其语上下文学习
推荐理由：这项研究揭示了提示设计对多词表达分类的关键影响，做自然语言处理尤其是低资源语言语义分析的团队值得关注，直接参考其示例构建策略可提升模型效果。
原文
6月7日
03:17
6月5日
12:02
12:02官方账号arXiv cs.AI@Alexander Möllers, Marvin Sextro, Julius Hense, Gabriel Dernbach, Klaus-Robert Müller
精选
多实例学习（MIL）处理的是包级别监督的问题，在计算病理学、卫星图像等领域有广泛应用。但现有算法在低标签数据场景下表现不佳，灵活模型容易过拟合，刚性模型难以适应新任务。本文提出一种基于Perceiver架构的上下文学习器，在合成数据上预训练后，仅需少量标注包即可解决新任务，推理时单次前向传播完成，无需梯度更新。研究设计了多种合成数据生成器，它们捕获互补的归纳偏置，混合预训练模型在12个MIL基准上平均性能最优，超越需要任务特定训练的监督基线。
论文多实例学习上下文学习Perceiver架构
推荐理由：做弱监督学习或医疗图像分析的团队，终于有了一个无需微调就能从少量标注包中学习的方案——单次前向传播搞定，值得直接试试。
原文
6月4日
11:29
11:29官方账号arXiv cs.LG@Yaseen M. Osman, Geoff V. Merrett, Stuart E. Middleton
精选
该论文系统检验了基于MLP激活值的深度主动学习方法在LLM上下文学习（ICL）样本选择中的有效性。研究者使用Llama-3.2-3B和Qwen2.5-3B模型，在分类和生成任务上测试了多种注意力掩码策略，发现MLP输出的激活值（包括大规模激活和前四阶矩）与样本质量或任务性能的Spearman相关系数最高仅0.33，表明该方法不可靠。论文推测失败原因可能是“叠加”现象（模型表示的特征数超过维度数），并指出稀疏自编码器（SAE）可能是未来方向。这是目前最全面的MLP激活值主动学习在ICL中的分析，但结论为负。
论文上下文学习主动学习MLP激活值
推荐理由：如果你在做ICL样本选择或主动学习，这篇论文用实验告诉你MLP激活值这条路走不通，省下试错时间。做LLM推理效率或特征分析的开发者，看完会理解为什么SAE可能是更好的方向。
原文
11:10
11:10官方账号arXiv cs.LG@Sepehr Dehdashtian, Jacob H Seidman, Vishnu N Boddeti, Gaurav Bharaj
音频深度伪造检测（ADD）模型对防御恶意TTS至关重要，但现有数据集构建面临手动收集和盲点发现低效的挑战。FoeGlass是首个黑盒自动化红队测试方法，利用LLM的上下文学习能力探索TTS输入空间，仅需黑盒访问即可生成欺骗ADD的音频样本。通过基于多样性度量的上下文设计，FoeGlass缓解了模式崩溃问题，在多个开源ADD和TTS模型上使假阴性率比基线提升高达94%。生成的攻击可跨不同ADD迁移，且用FoeGlass样本微调ADD模型可提升鲁棒性达41%。
论文音频深度伪造红队测试上下文学习
推荐理由：做音频安全或深度伪造检测的团队，终于有了一个无需手动标注就能自动发现模型盲点的工具——FoeGlass用LLM上下文学习就搞定了，建议直接跑一下开源代码看看效果。
原文
11:08
11:08官方账号arXiv cs.LG@Minh An Pham, Anton Segeler, Thomas Wiegand, Wojciech Samek, Sebastian Lapuschkin, Patrick Kahardipraja, Reduan Achtibat
函数向量（FVs）是在上下文学习中提取的任务表示，可用于引导大型语言模型（LLMs）。本研究探讨了不同FV定义对指令的影响，主要关注注意力头选择和引导两个自由度。在头选择上，使用基于梯度的归因方法（如层相关性传播LRP）显著提高了效率和准确性。在FV引导方面，分布式应用比简单聚合获得了更高的准确性。代码已公开。
论文函数向量上下文学习LLM引导
推荐理由：这项研究为LLM任务表示提供了更高效、更准确的方法，做模型微调或上下文学习的开发者可以直接参考其开源代码来优化自己的应用。
原文
6月2日
12:05
12:05官方一手arXiv: DeepSeek@Yiming Liao, Zeno Franco, Jose Eduardo Lizarraga Mazaba, Keke Chen
医疗大语言模型在临床决策支持中常出现幻觉，带来严重风险。现有基准缺乏真实临床背景，且对缓解幻觉的指导有限。Med-HEAL框架基于EHRNoteQA基准和MIMIC-IV数据，构建了幻觉数据集，通过LLM-as-a-Judge和人工审核双重标注。研究测试了自我批评和检索增强上下文学习两种策略，在五个开源模型上，自我批评策略显著提升了其中三个模型的准确性。该框架提供了可复用的数据集和实用方法，有助于医疗AI的安全部署。
论文医疗LLM幻觉缓解上下文学习
推荐理由：医疗AI的幻觉问题直接关系到患者安全，Med-HEAL给出了可落地的缓解方案——做临床NLP或医疗AI部署的团队，可以直接用其公开数据集和代码来评估和优化自己的模型。
原文
5月29日
11:07
11:07官方账号arXiv cs.AI@Zhenyu Sun, Zheng Xu, Ermin Wei
传统RLHF依赖静态奖励模型，但人类偏好多样且异构，单一模型难以泛化到未见领域。现有多奖励框架局限于固定领域，无法适应新偏好分布。本文提出In-Context Reward Adaptation，一种基于Transformer的框架，通过上下文学习从少量偏好演示中自适应推断奖励结构。研究发现标准Transformer存在渐近偏差，而引入人类响应时间作为辅助信号可成功适应未见领域偏好。该方法为偏好建模提供了更鲁棒的基础，支持异构奖励和偏好分布偏移，是实现灵活人机对齐的可扩展路径。
论文RLHF偏好建模上下文学习
推荐理由：做RLHF对齐的团队终于有了处理偏好多样性的实用方案——无需重新训练就能适应新人群，做AI安全或个性化推荐的开发者值得关注。
原文
5月13日
21:35
21:35官方一手Anthropic: Transformer Circuits（资讯）
Transformer Circuits 团队发布了 2025 年 9 月的小更新，主要介绍了新功能和对上下文学习（in-context learning）机制的改进。更新包括对模型内部表示的可视化工具增强，以及更高效的上下文学习算法。这些改进有助于研究人员更好地理解 Transformer 模型的行为，并推动可解释性研究。该更新对于关注 AI 可解释性和模型内部机制的开发者与研究者具有参考价值。
论文Transformer Circuits上下文学习可解释性
推荐理由：Transformer Circuits 的更新为理解模型内部机制提供了新工具，做可解释性研究或模型调试的开发者值得关注。
原文
19:12
19:12官方账号arXiv cs.AI@Eric Bigelow, Raphaël Sarfati, Daniel Wurgaft, Owen Lewis, Thomas McGrath, Jack Merullo, Atticus Geiger, Ekdeep Singh Lubana
精选
该研究提出大语言模型（LLM）的上下文学习可视为在低维几何空间（概念信念空间）中的轨迹更新。通过故事理解任务，结合行为与表征分析发现：信念更新在低维结构化流形上可被良好描述；模型行为与内部表征一致反映该结构，且可用简单线性探针解码预测行为；对表征的干预能因果性地引导信念轨迹，效果可从概念空间几何预测。该工作为 LLM 的贝叶斯解释提供了结构化几何基础。
论文上下文学习信念空间几何表征
推荐理由：这项研究把 LLM 上下文学习的黑箱过程可视化成了几何轨迹，做可解释性、推理机制或认知建模的研究者值得关注——它提供了干预模型信念的实操方法，看完会有启发。
原文
19:12
19:12官方一手arXiv: DeepSeek@Pruthvinath Jeripity Venkata
精选70°
该研究提出一个三机制框架，解释大语言模型在处理训练知识与上下文文档冲突时的矛盾现象。先前研究结果不一：有的发现模型顽固保留训练答案，有的则发现模型几乎完全遵循上下文。研究者认为这是因为未区分三种不同的处理情境：机制1（单源更新，主导因素为证据连贯性）、机制2（竞争整合，主导因素为参数确定性）、机制3（任务适配选择，主导因素为任务知识需求）。通过 9970 次 API 调用，在 Claude Sonnet 4.6、GPT-5.5、Gemini 2.5 Flash、Llama 4 Maverick 和 DeepSeek V3 上验证了该框架，确认了机制2的确定性梯度，并发现任务框架能将上下文遵循率从近100%翻转至6-71%。
论文LLM行为知识冲突上下文学习
推荐理由：这个框架解决了 LLM 行为研究中一个长期矛盾的谜题——为什么有的实验说模型死记硬背，有的说模型灵活跟随。做 LLM 评测或 prompt 工程的人，看完能更精准地预测模型在知识冲突场景下的行为，建议直接读原文的机制划分部分。
原文
19:12
19:12官方账号arXiv cs.AI@Rishabh Tiwari, Kusha Sareen, Lakshya A Agrawal, Joseph E. Gonzalez, Matei Zaharia, Kurt Keutzer, Inderjit S Dhillon, Rishabh Agarwal, Devvrit Khatri
精选70°
这篇论文提出了一种名为Fast-Slow Training（FST）的框架，将LLM的参数视为“慢权重”，优化后的上下文视为“快权重”。快权重通过文本反馈吸收任务特定信息，慢权重则保持基础模型的一般推理能力。实验表明，FST在推理任务上比仅用强化学习（慢学习）样本效率提升3倍，且性能上限更高。FST训练的模型与基础LLM的KL散度降低70%，显著减少灾难性遗忘，并保持可塑性——在连续学习场景中，FST能持续获取新任务，而参数仅更新的RL方法会停滞。
论文持续学习灾难性遗忘上下文学习
推荐理由：这篇论文解决了LLM在持续学习中灾难性遗忘和可塑性丧失的痛点，做模型微调、持续学习或Agent长期记忆的团队值得关注——FST框架让你不用在参数更新和上下文学习之间二选一，直接结合两者优势。
原文