微软与斯坦福合作研发新算法，规避AI灭绝人类风险：GPT-4实现自我迭代并可控解释。

本文介绍了微软斯坦福研究人员提出的新算法STOP系统，该算法通过迭代优化使得GPT-4能够针对任务自我改进输出代码，同时避免改变模型权重和结构。这种自我优化方法被认为有助于解决AI系统自我进化可能带来的风险，从而解决了“递归自我进化AI统治人类”问题的可能性。DeepMind联合创始人也表达了对能够自主进化的大模型的担忧。

如果想深入了解原文内容，请点击查看：微软斯坦福新算法，杜绝AI灭绝人类风险！GPT-4自我迭代，过程可控可解释。若需进一步了解作者信息，请联系：AI_era。作者所在平台新智元专注于推动中国从互联网+向智能+转变，关注人工智能、机器人等前沿领域发展，以及人机融合、人工智能和机器人对社会与文明进化的影响。