OpenAI发布超级对齐项目：AI引领AI，GPT-2监督GPT-4

本文转自公众号「机器之心」，介绍了近期OpenAI发布的超级对齐项目。项目由Ilya Sutskever领导，旨在实现AI对齐AI，使GPT-2能够监督GPT-4等大模型。根据Ilya Sutskever的访谈内容，如果模型能够准确预测下一个词，就表明其具备理解产生这个词的背后现实的能力，这也是AI向超越人类发展的一个标志。然而，超级人工智能的出现可能带来意想不到的负面影响，需要通过对齐来解决。传统的对齐方法依赖于人类的监督，但未来的人工智能系统可能会展现出极端复杂和具有创造性的行为，使得人类难以进行有效监督。因此，对齐AI系统将是未来人工智能发展中至关重要的一环。

原文链接：点此阅读原文：Ilya牵头，OpenAI发布超级对齐项目：AI对齐AI，GPT-2能监督GPT-4

作者来自Founder Park，微信号为Founder-Park，专注与科技创业者讨论关于科技方面的实际问题。