OpenAI发布新规：设立全新安全团队，将模型风险划分为四级并授董事会发布权限

近日，OpenAI发布了一则重要通知，其中宣布成立了全新的安全团队，负责对模型的危险性进行分级，并允许董事会决定是否发布。这一消息引发了广泛关注。该安全团队提出了一个名为「准备框架」的概念，旨在监督和管理不断增强的大型模型，以避免潜在的安全风险。公司表示，这份框架是一个动态文件，详细说明了他们在安全方面采取的技术和运营措施，旨在引导前沿模型开发的安全性。安全团队将积极推动技术工作，跟踪模型风险，制定新的安全基线和治理流程，设立跨职能的安全咨询小组等措施。

在人工智能领域的持续发展中，OpenAI强调了对未来发展中潜在风险的考量。他们的举措体现了对人工智能安全问题的重视，也为行业确保技术发展的稳健性和安全性树立了榜样。更多关于此次发布的详细信息，请查看原文链接OpenAI官宣全新安全团队：模型危险分四级，董事会有权决定是否发布。

如果您希望了解更多相关信息，可以联系文章来源新智元。该平台关注人工智能、机器人等前沿领域的发展，致力于引领中国走向智能化时代。作者微信为AI_era，为智能+中国的主平台成员，倡导人工智能和机器人对人类社会与文明进化的影响，引领中国智能化时代的发展。