AITOP

Qwen

共 103 条相关 AI 资讯 · 查看话题观测
7月11日
07:43
7月10日
10:53
7月9日
10:15
10:15官方账号arXiv cs.LG@Anna Kuzina, Paul N. Whatmough, Babak Ehteshami Bejnordi
72°
论文揭示了因果自注意力二次复杂度对长上下文推理的瓶颈，在冻结骨干网络下隔离了状态更新设计的效果。研究表明Softmax依赖key相关的秩1正交投影，解释了为何delta式网络优于纯门控累积。作者通过引入sink token、短卷积和固定预算缓存路由等结构干预，减少了近似误差。在LLaMA和Qwen模型上扩展至32B参数，MMLU基准超越了先前后验线性化方法，长上下文检索匹配复杂自适应缓存框架。
论文LLaMAQwenTransformer线性化MMLU
推荐理由：这篇论文搞清楚了Transformer线性化为什么delta式更厉害，还给出了具体修补方案，在LLaMA和Qwen上跑到了32B，MMLU成绩比之前的后验方法好。
原文
7月8日
04:33
03:20
7月7日
23:48
17:18
7月6日
16:29
16:28
7月5日
10:37
7月4日
18:19
03:10
7月3日
09:46
09:46官方一手arXiv: DeepSeek@Gabriel Hurtado
精选
该论文提出一种无需阈值的审计方法，结合两种内部信号——参考锚定的激活拒绝间隙与基础到候选权重的恢复能量——来检测开放权重检查点是否被剥离拒绝机制。在包含Qwen、DeepSeek-distilled Qwen、Llama和Gemma的273个检查点注册表上，两个信号的z-sum分离了57个公开的abliterations与37个良性微调、合并和指令微调，AUROC达到0.95，显著高于任一单独信号（0.84和0.90）。经Youden校准的阈值在留出族上达到平衡准确率0.89（FPR 0.11），仅漏掉57个中的4个。论文还映射了两种失败模式：伪造参考可无训练规避两个信号，白盒所有者可训练出超过阈值但仍不安全且连贯的检查点。
论文QwenDeepSeekLlamaGemma模型安全
推荐理由：想知道模型有没有被偷偷去掉安全护栏？这篇论文用两个内部信号在273个模型上做到95%的准确率，比单信号靠谱多了。
原文
7月2日
20:29
13:13
10:13
10:13官方一手arXiv: DeepSeek@Zewen Liu
该论文提出了EPC（评估者偏好耦合）协议，这是一种RFC风格的标准化协议，用于隔离和测量LLM代理系统中评估者偏好动态的四个阶段。协议包含了执行器和评估器配置、策略与任务设计、TTRL更新规则以及gamma、JSD、ECE、Brier等度量指标的计算方法。同时发布版本化的参考快照v1.0，包含GPT-4o、Qwen、DeepSeek等八个评估器条件的122次独立实验重复测量结果，并标注了版本标识符、API端点与测量日期。该协议、参考快照及实现代码已作为开放基础设施发布，旨在支持第三方复现、跨评估器比较以及检测专有评估器无声更新导致的测量衰减。
论文EPCGPT-4oQwenDeepSeek智能体开源模型
推荐理由：这篇论文搞了个标准协议EPC，专门用来测LLM代理系统里评估器偏好怎么耦合的，还附带了GPT-4o、Qwen、DeepSeek等8个评估器的大规模实测数据，方便你复现和对比。
原文
7月1日
11:05
11:05官方账号arXiv cs.LG@Philippe Chlenski, Zachariah Carmichael, Ayush Warikoo, Chia-Tse Shao, Yingxiao Ye, Aobo Yang, Vivek Miglani, Nehal Bandi
该论文研究使用开放语言模型（如Llama、Qwen）解释封闭API模型（如GPT、Gemini）时的可靠性问题。在11个模型上的实验表明，预测层面的保真度（log-odds一致性）远高于归因层面的保真度（leave-one-out重要性）。存在访问-效度反转：白盒信号（如注意力模式）虽稳定但无法预测因果归因，而黑盒输入消融能直接捕捉归因。论文警告，仅凭预测一致性不足以证明机械可解释性可从开放模型迁移到封闭模型。
论文LlamaQwenGPTGemini机械可解释性
推荐理由：想用开源模型解释GPT？这篇论文告诉你预测一致不代表归因一致，小心踩坑。
原文
10:56
6月30日
14:02
13:16
10:41
08:24
08:24berryxia@berryxia
前Meta产品经理Qu Xiaoyin预测，2026年上半年中国开源模型（DeepSeek V4、Qwen3.5、GLM-5.2）能力追平部分闭源模型。她指出欧企业可把中国模型部署在自己的GPU上，满足数据合规（数据不出境）并获完全控制权。开源模型允许企业用内部数据微调成专属模型，而OpenAI和Anthropic的闭源API做不到。成本方面，闭源API按token收费，开源模型一次性部署后边际成本趋近零。但部署运维需专业团队，AWS、Azure、阿里云已提供托管服务降低门槛。
行业OpenAIAnthropicDeepSeekQwenGLM开源模型企业部署
推荐理由：前Meta产品经理说欧美企业会抛弃OpenAI和Anthropic转向中国开源模型，因为能本地部署、定制微调，成本还低。想省钱的老板可以听听。
原文
03:05
6月29日
18:22
17:47
17:47官方账号阿里云 Alibaba Cloud@alibaba_cloud
阿里云推出新的AI零售解决方案，基于Qwen模型，可跨所有触点理解客户，将碎片化洞察转化为个性化沉浸式体验，驱动可量化的零售增长。该方案已在大规模场景验证。
AI产品QwenAlibaba CloudAI零售零售解决方案
推荐理由：阿里云出了个新零售AI方案，基于Qwen模型，能跨各触点理解顾客，把零散数据变成个性化体验，还能量化增长效果。
原文
13:50
6月28日
16:18
6月26日
22:42
22:42Gary Marcus@GaryMarcus
UBS调查显示，60%监控AI预算的企业已开始转向更便宜的模型和开源中国模型。企业面临极端账单，有用户每月花费高达35,000美元，团队超出配额200%，部分公司从5个AI内部工具削减至2个。企业通过模型路由策略，将简单任务分配给便宜模型，如Qwen、DeepSeek、MiniMax、GLM、Kimi，而保留高级模型用于推理、编程和长上下文任务。这些中国开源模型可以本地运行或通过云目录使用，符合企业成本曲线。
行业UBSDeepSeekQwenMiniMax开源模型成本优化企业AI应用
推荐理由：大厂AI账单太高了，UBS说60%的企业已经在换更便宜的模型，像DeepSeek、Qwen这些中国开源模型成了新选择。想省钱的企业可以看看这个趋势。
原文
04:52
04:51
6月25日
02:37
00:49
00:49berryxia@berryxia
77°
Qwen团队直接训练了一个语言世界模型Qwen-AgentWorld，核心目标是从头建模环境而非仅训练Agent行为。模型需预测终端输出、网页变化及代码执行后状态，而非单纯学习操作。利用该模型作为模拟器进行可控Sim RL，在某些任务上模拟训练的Agent性能甚至超过真实环境训练的Agent。此外，仅做环境预测的预训练能力可直接迁移到多轮Agent任务，在多个benchmark上取得显著提升，包括未见领域。Qwen开源了35B MoE版本及对应基准。
AI模型QwenQwen-AgentWorld世界模型Agent强化学习
推荐理由：通义千问出了个新模型，不是教Agent怎么动，而是先让模型懂环境变化。用模拟环境练出的Agent反而比真实环境练的还强，还开源了35B版，值得看看。
原文
6月24日
22:40
22:39
6月23日
22:09
6月19日
11:27
6月18日
19:09
10:07
09:21
03:55