OpenAI 找到新方法来改进语言模型对齐技术

<img src="">

AIGC动态欢迎阅读

原标题：OpenAI 的超级对齐团队在做什么
关键字：公告,解读,模型,人类,团队
文章来源：AI前线
内容字数：5031字

内容摘要：

作者：Jan Leike、John Schulman、Jeffrey Wu 译者：王强 策划：褚杏娟 这家公司旨在防止超级智能体失控，而首要举措已经启动。
OpenAI不久前宣布了其超级对齐团队的首个成果。这个团队是公司内部计划的一部分，致力于防止超级智能体（一种假想的未来计算机，拥有超人类智慧）失控。
与以往许多公告不同，这次的公告并未宣扬重大突破。在一篇低调的研究论文中，该团队描述了一种技术，可以让一个较弱的大型语言模型监督一个更强大的语言模型，文中称这是迈向“了解人类如何监督超越人类水平的机器”目标的一小步。
此前，OpenAI陷入危机，首席执行官Sam Altman被监督委员会解职（很明显是由首席科学家Ilya Sutskever领导的），三天后又被重聘。这次公告发布不到一个月，传递的信息十分明确：公司已重回正轨，一切如常。
然而，OpenAI的业务却不同寻常。许多研究者仍在怀疑机器是否能达到人类智能水平，更不用说超越人类智慧。然而，OpenAI团队

原文链接：OpenAI 的超级对齐团队在做什么

联系作者

文章来源：AI前线
作者微信：ai-front
作者简介：为广大AI爱好者、开发者和科学家提供AI领域的技术资讯、一线业界实践案例、整理业界技术分享干货、AI论文解读。每周一节技术分享公开课，助您全面掌握人工智能技术。