Anthropic 高管称开放式 AI 模型风险高于自家闭源模型

Anthropic 国际业务负责人普兰森：开放式 AI 模型比我们的模型风险更高

IT之家 10 月 15 日消息，据彭博社 14 日报道，Anthropic 国际业务负责人、负责美国以外市场销售的纪尧姆 · 普兰森认为，与 Anthropic 自家的 AI 模型相比，开放式模型 发生网络安全事件或造成其他危害 的风险更高。 普兰森在都柏林国际人工智能峰会期间接受采访时表示：“对开源模型的安全问题，我们必须格外小心。我无法替开放模型作出保证，但从定义上讲，这类模型的风险更高。” 随着越来越多国家担心过度依赖美国 AI 技术，预计将上市的 Anthropic 面临越来越激烈的竞争。其中， 开放权重 AI 模型 成为热门选择。 IT之家注：开放权重 AI 模型向公众开放参数，用户可以自行修改，也能部署在自己的设备上。 支持者认为，开放权重模型比 Anthropic 和 OpenAI 严格控制的闭源模型更便宜， 也更有利于各国掌握 AI 技术自主权 。 Anthropic 还进一步加强了对 AI 潜在风险的警告。本周早些时候，公司警告称，小型 AI 模型很快就可能被用来 驱动新型僵尸网络 ，使其能够在智能烤箱等小型联网设备之间自行复制和扩散。 普兰森还负责 Anthropic 面向初创企业和数字原生企业的销售业务。他称，对开放权重模型的担忧来自 Anthropic 保护自家产品安全的经验。 在几起引发广泛关注的 AI 黑客攻击事件后，Anthropic 宣称增加了安全防护措施，防止模型从事恶意活动。 Anthropic 也一直主张，在国际标准和统一的评估机制建立之前，应该放慢 AI 开发步伐。 普兰森还谈到了公司定价较高的模型。他经常告诉企业， 购买能力更强的模型最终是值得的 。“应该持续投资最先进的模型，因为无论是半年、一年还是两年后，同样的应用成本都会下降。” 普兰森称，Anthropic 最新推出的 Claude Opus 5.5 模型比早期版本便宜 40%。付费使用 Anthropic 前沿模型的企业客户占公司业务的“很大一部分”，但他没有透露具体比例。