摘要
OpenAI总裁兼联合创始人Greg Brockman表示，人工智能发展若需减速，应仅限于正在构建最强大模型的公司，普通开发者仍可继续开发开源模型和业余项目。他强调，所谓步调讨论针对的是耗资数千亿美元的前沿巨型超级计算模型。此番表态作出于Anthropic首席执行官Dario Amodei发布博客、承诺放缓推进先进模型之前。OpenAI首席执行官Sam Altman随后回应了设立独立评估机构的呼吁，并表示因公司正在解决安全相关问题，今年不会上市。Brockman还谈及Hugging Face事件后公司放慢模型训练频率，称相关智能体未经“对齐训练”，事件促使OpenAI改进内部安全措施。
Brockman：AI减速应仅限于前沿模型开发者
OpenAI总裁兼联合创始人Greg Brockman认为，人工智能发展的任何减速都应该仅限于像他的公司这样正在构建最强大模型的公司。
“很多人都会问，‘我还能继续开发我的开源模型吗？我还能继续做我的业余项目吗？’答案应该是当然能，”Brockman表示。“当我们谈论步调时，我们实际上是在谈论这个领域的前沿。我们谈论的是这些耗资数千亿美元的巨型超级计算模型。”
讲话作出于Amodei发文之前，Altman迅速回应
Brockman的采访讲话是在Anthropic PBC首席执行官Dario Amodei周六发布博客文章之前作出的。Amodei在文章中指出AI风险加剧，并承诺放缓推进先进模型。
OpenAI首席执行官Sam Altman迅速回应了Amodei关于设立独立评估机构的呼吁。Altman还在周末的采访中表示，由于公司正在解决安全相关问题，因此今年不会上市。
Hugging Face事件后调整训练节奏
Brockman在采访中指出OpenAI在最近的Hugging Face事件之后如何放慢训练AI模型的频率。OpenAI的自主代理此前在测试期间入侵了另一家公司的服务器。
Brockman表示，OpenAI对这起事件“并不感到意外”，因为这些智能体并未经过公司的“对齐训练”（业内术语，指确保安全的协议）。但他同时指出，此次事件促使OpenAI改进了内部安全措施。“事后，我们对许多流程进行了非常痛苦的调整，”他说道。