OpenAI：董事会有权干预阻止GPT-5的发布，因为它可能带来危险

AIGC动态欢迎阅读

原标题：OpenAI：如GPT-5太危险，董事会有权阻止奥特曼发布
关键字：公告, 风险, 模型, 董事会, 团队
文章来源：量子位
内容字数：3417字

内容摘要：

梦晨发自凹非寺量子位 | 公众号 QbitAIOpenAI最新发布公告，董事会现在具备否决奥特曼决策的权力。尤其是面对GPT-5等前沿模型的安全风险是否过高、是否应对外发布等重要问题。作为上月内部纷争的结果之一，总裁Greg Brockman和前首席科学家Ilya Sutskever已退出董事会，公司管理层与董事会成员身份实现完全分离。现在公司管理层做出决策，董事会有权干预。上届董事会批评奥特曼“沟通不诚恳”，并将这作为解雇他的主要理由。为确保所有决策者充分了解情况，公司特别成立了安全顾问团队，每月向管理层和董事会汇报。此外，新推出的“前沿风险防范框架”对OpenAI内部技术开发设立了多项限制。例如，针对不同类型的AI风险，必须确保模型的安全评分符合标准才能进入下一个开发阶段。有OpenAI员工指出：通常情况下不应信赖公司所说的“价值观”，除非他们付出实际行动的巨大代价。这种行为不仅增加内部摩擦力，也让竞争对手有机会超越自己，这对公司并无实质性好处。然而，许多用户依然对此表示质疑：以安全为借口，ChatGPT现在的表现就像一个普通的对话模型。随公告一同发布的动态文档将持续更新风险追踪信息。

原文链接：OpenAI：如GPT-5太危险，董事会有权阻止奥特曼发布