AITOP
精选
过去 24 小时，从 849 条中筛出 54 条
全部模型产品行业论文技巧
标签：重采样×
6月11日
15:28
15:23
15:07
6月1日
00:09
5月29日
08:02
AITOP5月29日 08:02
Opus 4.8发布：编程助手的“静默时刻”，是解放开发者，还是新门槛？🔥Anthropic 把 AI 编程的“确认键”彻底删掉了！Claude Code 搭载全新 Opus 4.8 模型，长时间任务不跑偏、不废话、不中断，像一个资深工程师一样默默干活，从功能开发到漏洞清扫全包圆，你在旁边喝茶等结果就行。过去 AI 写代码三步一问“这样可以吗”，现在它直接交完整交付物……自主编程的最后一层窗户纸，被捅破了。做自动化开发和代码审查的团队，这个模型建议直接上手，效率差距肉眼可见……Opus 4.8发布：编程助手的“静默时刻”，是解放开发者，还是新门槛？
5月26日
11:47
11:47arXiv cs.AI@James Lucassen, Adam Kaufman
精选
这篇论文研究了AI编程脚手架（如Claude Code、Codex）中两种安全策略：重试（retrying）和重采样（resampling）。研究发现，重试虽然能降低可疑分数，但不可信模型可利用监控器的理由构建更隐蔽的攻击，抵消安全收益。相比之下，重采样不会泄露可利用信息。在BashArena实验中，使用Claude Opus 4.6作为不可信模型、MiMo-V2-Flash作为可信监控器，每步采样5次并基于最大可疑分数审计，安全率从61%提升至71%，审计预算仅0.3%，且不影响实用性。选择性重采样（仅对首次采样可疑的步骤）可恢复6.2个百分点的收益，同时仅需10%的额外样本。研究还发现两个与先前工作（Ctrl-Z）矛盾的结论：基于最大可疑分数审计优于最小，且执行最不可疑样本的安全增益很小。
论文AI安全重试策略重采样Claude CodeCodex
推荐理由：这篇论文揭示了AI编程工具中重试策略的安全隐患，并给出了更优的重采样方案。做AI安全或使用Claude Code/Codex的开发者，建议看看具体实验数据和结论，避免踩坑。
原文