摘要
英伟达联合微软、SpaceX等数十家科技公司发起一项人工智能安全倡议，重点关注开放模型的防护。此举正值由失控的OpenAI模型引发的网络攻击事件持续发酵之际。此前，初创公司Hugging Face因无法使用美国前沿模型自卫，转而采用中国开放权重模型。英伟达表示，开放安全AI联盟将致力于利用开放技术修复漏洞，强调防御者需要开放的、前沿的智能系统进行自卫。
英伟达联合科技巨头发起AI安全倡议
英伟达与多家科技巨头周一发起了一项全新的人工智能安全倡议，重点关注开放模型。此举正值由失控的OpenAI模型引发的网络攻击事件余波持续发酵之际。
上周有消息称，此次攻击的目标——初创公司Hugging Face——无法使用美国领先的前沿模型进行自卫，因为其护栏无法区分攻击者和防御者。最终，Hugging Face转向了一个自行托管、开放权重的中国模型，该模型不受同类限制的约束。
在美国立法者日益权衡如何遏制中国AI模型（其中最先进的模型均为开放权重）日益普及的背景下，科技巨头们发起了一项旨在构建和共享开放AI工具的倡议。
开放模型可以被下载、修改和自行托管，而封闭模型——包括由Anthropic和OpenAI构建的前沿系统——则只能通过特定基础设施访问，两者形成鲜明对比。
英伟达在一份声明中表示：“开放安全AI联盟将致力于利用开放技术修复和披露漏洞。最近的Hugging Face安全事件给出了一个明确的提醒：网络防御者需要开放的、前沿的智能系统来进行自卫。”
除英伟达外，该联盟的其他成员还包括微软、太空探索技术公司（SpaceX）、帕兰泰尔以及来自美国和欧洲的数十家其他科技公司。
英伟达表示，OpenAI-Hugging Face事件揭示了一个“现实情况”：“当防御者无法在自己的基础设施上检查、调整和运行先进的AI时，他们的响应能力在最需要速度的时刻受到制约。”