Weight-Space Programming(权重空间编程)是 MIT 近期提出的一种研究范式:让大语言模型直接读取、理解和修改神经网络模型文件中的权重参数,把模型权重当作一种可编程的对象,而不依赖梯度下降或微调。这一思路被认为是介于传统软件工程与机器学习之间的新方向,也可能让权重成为 AI 可直接读写的一门“编程语言”。
Weight-Space Programming 的近期进展
当前焦点与观察点
围绕 Weight-Space Programming,目前的讨论集中在三个方向。其一是“手写权重”的极限:研究者 Fable 尝试手工编写 10 万参数级别的模型权重并用于真假法律引用的识别,用来验证权重内容是否真的可以被有意义地构造。其二是能力门槛:Qwen 3.8 27B 在笔记本上也能直接读懂模型权重 的报道说明,中等规模、可本地运行的模型也开始具备权重解读能力,这可能降低相关实验的参与门槛。
其三是安全与可靠性。直接改写权重绕过了常规训练流程,如何验证修改后的模型行为没有引入隐性风险,目前尚缺乏成熟的评估方法;前述放疗网络的缺陷检测实验某种程度上正是对“AI 能否审计权重”的初步回答。MIT CSAIL 在相关讨论中也指出,前沿模型展现出读取、修复模型权重的潜力。后续值得观察的是:这类权重编辑能力能否稳定迁移到更大模型和更复杂任务、是否有团队将其产品化,以及社区是否会形成针对权重空间操作的标准化评估基准。