英伟达也开始搞AI安全了，还公开挺开放权重模型，跟OpenAI的封闭路线唱对台戏，可以看看。
据《商业内幕》8月6日报道，英伟达正在组建一支新的AI安全与网络安全工程团队。团队招聘岗位包括杰出工程师、安全研究工程师、评估工程师和高级经理，将对尚未部署的AI智能体进行安全评估。英伟达还计划开发用AI自动修复软件漏洞的工具。英伟达在招聘信息中称，开放权重模型、技术透明度和广泛科学审查是美国维持AI领先地位的基础。黄仁勋上月首次在X平台发文，转发了一封支持开放模型的公开信。
英伟达低调组建 AI 安全与网络工程团队，自称秉持“坚定信念”
IT之家 8 月 6 日消息，据《商业内幕》今天（6 日）报道，英伟达正在低调组建一支新的 AI 安全与网络安全工程团队 。 上月底集中发布的一批招聘信息首次披露了团队的存在。英伟达计划 招聘一名杰出工程师 ，出任新团队的创始技术负责人，其他岗位包括 安全研究工程师、评估工程师和高级经理 。团队将对尚未部署的 AI 智能体进行安全评估，还会开发利用 AI 自动修复软件漏洞的工具。 报道认为，此举说明英伟达在押注开放权重模型和 AI 智能体的同时， 也在把 AI 安全提升到更重要的位置 。开放权重模型会公开决定模型如何运行的训练参数，但训练数据和源代码仍可保持封闭。 英伟达在一则招聘信息中称，团队秉持一项“坚定信念”：开放权重模型、技术透明度和广泛的科学审查， 是美国维持 AI 领先地位及增强网络安全防御能力的基础 。 据IT之家了解，近几个月来，英伟达越来越频繁地公开支持开放权重 AI 模型，立场与 OpenAI 和 Anthropic 等企业采用的封闭模型路线形成鲜明对照。 英伟达创始人兼 CEO 黄仁勋上个月首次在 X 平台发文，转发了一封呼吁美国政策制定者支持开放模型的公开信。他指出，开放模型能够提高 AI 安全性并加强网络安全。 随着 AI 从只能对话的聊天机器人转向能够读取企业敏感数据、调用工具并执行现实任务的智能体，企业能否信任 AI 系统，很可能成为决定普及速度的关键。 相关阅读： 《 英伟达、微软、IBM 等 37 家企业成立开放安全 AI 联盟：构建和共享开源工具、推动 AI 安全与保障 》