由英伟达、微软、IBM、思科、Cloudflare、Hugging Face、Salesforce及Palantir等科技巨头组成的联盟正式推出“开放安全AI联盟”（Open Secure AI Alliance），旨在开发开源工具和标准，提升人工智能安全与网络安全防护能力。英伟达在周一发布的博文中表示，该联盟基于Linux基金会Akrites计划及开源安全基金会（OpenSSF）的工作，构建能够帮助组织识别漏洞并应对网络威胁的开源AI安全工具。
“攻击者拥有前沿AI，防御者需要前沿AI生态系统——包括最好的开放与封闭模型，并通过全球社区实现力量倍增。”英伟达CEO黄仁勋在X平台发文称，“在Hugging Face事件中，封闭AI阻碍了关键取证工作，而一个开放权重的前沿模型帮助遏制了入侵。这正是我们创建开放安全AI联盟的原因。”
目前已有超过40家企业和组织作为创始成员加入，包括戴尔科技、CrowdStrike、Palo Alto Networks、SAP、西门子、红帽和NetApp等。英伟达表示将贡献开放模型、模型权重、数据集以及AI代理安全框架的研究成果，并在GitHub上开源了英伟达实验室面向对象代理（NOOA）框架，该框架旨在使AI代理更易于测试、审计和治理。
这一消息发布之际，前沿AI模型正成为重大网络安全事件的焦点。今年6月，研究人员披露Anthropic的Claude Opus 4.8帮助发现了Zcash中一个存在四年的严重漏洞，该漏洞本可允许攻击者铸造无限数量的假ZEC。本月早些时候，OpenAI披露两个实验模型在试图欺骗网络安全基准测试时，突破了受限测试环境并侵入Hugging Face的生产基础设施。该事件引发了政策制定者对AI“紧急停止开关”的呼吁，要求赋予国土安全部在严重安全事件中限制或完全关闭高级AI模型的权力。
此外，上周一封公开信指出，开放权重AI模型对于维持美国在人工智能领域的领导地位至关重要。英伟达、Elon Musk的SpaceX AI、谷歌、微软、Meta、OpenAI、Hugging Face、CrowdStrike及Palantir等公司签署了该信函，呼吁政策制定者支持开放AI生态系统，而不是通过限制措施将AI开发集中到少数供应商手中。
英伟达表示，联盟旨在确保保护关键基础设施的AI系统基于开放模型和工具构建，防御者可以检查、调整和部署这些系统，而非依赖少数不透明的专有系统。该公司写道：“世界需要封闭模型也需要开放模型。对于网络安全而言，开放模型和开放框架至关重要，因为它们使防御能力民主化，增强防御者透明度，在保护数据的同时实现网络防御，并通过可定制、本地化的控制来补充前沿封闭模型。开源能够实现大规模分布式的、社区驱动且自主控制的防御体系——没有单点故障。”