in-context learning 相关 AI 资讯 · AI 热点

8月31日

09:35

09:35

官方账号arXiv cs.AI@Jiayan Lin, Yujia Liu, Zijin Hong, Zheng Yuan, Yilin Xiao, Hao Chen, Qinggang Zhang, Xiao Huang, Feiran Huang

精选73°

该研究对17种文本到SQL管道配置进行了分析，覆盖5个常见模块。执行反馈优化是唯一在所有模型上保持低成本高效益的模块。输入需求与管道结构相关，输出需求与模型生成行为相关。固定预算下，优化管道比升级到前沿模型更有效。

论文 text-to-SQL in-context learning ICL

推荐理由：这篇论文分析了文本到SQL中不同模块的成本效益，帮你决定哪些模块值得投入。

6月19日

11:06

11:06

官方账号arXiv cs.LG@Sihui Dai, Mann Patel

该论文通过混合良性合规示范（无害请求、有用回复）与有害合规示范（有害请求、有用回复），测试了三种关于示范组合如何导致有害合规的假设。在四个模型中，良性示范与有害示范不可互换：良性示范可能减少或增加有害合规，取决于模型。研究发现偏好优化是关键训练阶段，可防止良性示范增加有害合规；示范排序存在强烈的近因偏差；模型在拒绝与上下文学习交互时表现不同。

论文 LLM jailbreak demonstration

推荐理由：这篇论文解释了为什么不同的合规示范会以不同方式影响模型，帮你理解LLM的jailbreak机制，不只是实证而是分析原理。