Papers10月23日 11:14

Ethan Mollick：短期来看 AI 更有利于网络攻击方而非防御方

Ethan Mollick@emollick

Post

View the post

Why we picked it

Ethan Mollick 转发了多篇学术论文的结论：AI 攻击成本低、防御成本高，短期内黑客更占便宜，安全团队可以对照自查。

Ethan Mollick 引用多篇学术论文指出，AI 在网络攻防中的短期效应更偏向攻击方。核心原因是攻击的边际成本在短期内显著低于防御成本，攻击者用 AI 低成本放大攻势。他同时强调目前相关证据仍然有限，结论主要来自学术建模研究。

Original · Ethan Mollick

We don't have a lot of evidence, but the bulk of the academic papers modelling the dynamic seem to suggest AI initially helps attackers more than defenders because of the low marginal cost of attacks in the short term. https://t.co/zCsw9Qt9u5

#AI安全 #Ethan Mollick #网络攻防 #学术论文

Keep reading

Recent stories with the same tag or section

Papers BuildersMulti-source10:54

Chinese contentLLVMhammer：通过 Rowhammer 位翻转让 LLM 推理变慢 4-16%

有人用 Rowhammer 硬件攻击搞坏了 Triton 编译，四个主流模型实测慢 4-16%，搞 GPU 推理的都该看看这篇。

#Triton #Rowhammer #LLVMhammer #推理优化

Event

arXiv: DeepSeek@Mrityunjay Shukla et al. (3)11 sourcesSource

Papers Builders10:49

Chinese contentEpiSEM-Bench：评测 LLM 智能体在证据缺失下的安全表现

一个专门测智能体“证据不全时会不会乱来”的基准，300 组任务对测了十款模型，做 agent 安全的人可以直接拿来用。

#EpiSEM-Bench #LLM #智能体 #AI安全

arXiv cs.AI@Qijin Zhang et al. (7)Source

Papers Builders10:49

Chinese contentOLMo-3 检查点研究：RLVR 训练不必然加剧模型的趋同工具行为

用 OLMo-3 的 13 个中间检查点实际测了 RLVR 会不会让模型更爱追求权力，结果先升后降，数据挺有意思。

#OLMo-3 #RLVR #InstrumentalEval #AI安全

arXiv cs.AI@Barış Alparslan et al. (3)Source

Papers BuildersSelected10:49

Simulated Control Evals Predict AI Safety With Lower Error

Control evals have so far been limited to purpose-built settings whose transfer to real deployment is questionable; SCEs let safety teams test safeguards against deployment-specific environments cheaply, without executing every task. The 3.6 vs 10.1 percentage-point RMSE gap against BashArena is the concrete benchmark to cite when arguing simulation fidelity. AI safety researchers and red-team builders can apply the technique by generating simulated tool responses for their own target environments.

#AI safety #LinuxArena #BashArena #control evaluations

Event

arXiv cs.AI@Jeffrey Olmo et al. (3)2 sourcesSource

Papers Builders10:48

Chinese content研究：面对自信出错的 GPT-5-mini，人类反向谄媚且信任校准崩塌

反着研究谄媚挺有意思：模型自信但说错时，人反而全盘照收。1040 条数据显示信任校准会失效，做 AI 教育产品的可以看看。

#GPT-5-mini #谄媚效应 #AI安全 #信任校准

arXiv cs.AI@Deepthika S et al. (3)Source

Papers Builders10:47

Chinese contentSocial-HUMINT：用 LLM 量化社交媒体信息暴露程度

研究者用 LLM 把社工攻击前的“你能被挖出多少信息”变成了可量化指标，提取 F1 到 97.3%，做安全的人可以拿来测自己的暴露面。

#LLM #SOCMINT #社会工程学 #多智能体