AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：无训练方法×
6月16日
20:46
6月12日
12:57
6月11日
15:28
15:23
15:07
5月27日
10:31
10:31arXiv cs.AI@Zhifei Dou, Shabnam Hassani, Ou Wei
精选
工业需求工程中流程图常以静态图片存在，Vision Language Models (VLMs) 在将其转为机器可读模型时，常丢失拓扑关键细节。EdgeFlow 通过向VLM输入添加Canny边缘图作为结构先验，显著提升流程图到Mermaid的转换质量。在真实工业数据集IndusReqFlow上，节点F1提升17.39个百分点，边F1提升16.94个百分点，路径F1提升11.06个百分点。该方法无需标注数据或微调，为工业需求工程提供了一种实用的无训练方案。
论文VLM流程图转换工业需求工程边缘图增强无训练方法
推荐理由：工业需求工程师和RE工具开发者终于有了一个无需训练就能提升流程图转换精度的方案——EdgeFlow用边缘图做结构先验，直接让VLM的拓扑识别能力跃升，做模型驱动测试的团队值得一试。
原文
5月19日
11:24
11:24arXiv cs.AI@Yasuyuki Okoshi, Hao Mark Chen, Guanxi Lu, Hongxiang Fan, Masato Motomura, Daichi Fujiki
精选
现代大语言模型依赖长前缀来控制推理行为，但前缀影响会随生成衰减，且注意力计算成本随前缀长度线性增长。现有方法要么压缩前缀但仍需注意力计算，要么通过梯度训练内化前缀但更新困难。本文提出 attention-state memory，一种无训练方法，将前缀与查询 token 的预计算注意力状态外化到轻量级查找表中。在 ManyICLBench 上，LLaMA-3.1-8B 在 1K-8K 内存预算下准确率超过上下文学习，注意力延迟降低 1.36 倍；在 NBA 基准上仅用 20% 内存就超越全注意力 RAG 性能。
论文长上下文注意力机制LLM推理无训练方法内存优化
推荐理由：长上下文推理的注意力瓶颈终于有了轻量级解法——无训练、可更新、内存高效，做 LLM 推理优化或长文档应用的团队值得关注。
原文