港科大&华为诺亚方舟实验室揭示：喂食“有毒”数据后，大型模型表现更加出色

<img src="">

欢迎阅读AIGC动态

本文转载自量子位，原标题为“吃‘有毒’数据，大模型反而更听话了！来自香港科技大学和华为诺亚方舟实验室的研究。”研究人员发现，给大型模型喂入一定量的错误文本，然后让模型分析和反思错误的原因，可以帮助模型真正理解错误之处，从而避免出现误导性的输出。他们提出了一种“从错误中学习”的对齐框架，并通过实验证明了这一方法的有效性。

这一研究成果表明，让大型模型通过“吃一堑，长一智”，能够不断提升其学习能力和准确性。

想了解更多内容，请查看原文链接：吃“有毒”数据，大模型反而更听话了！来自香港科技大学和华为诺亚方舟实验室的研究

联系作者

文章来源：量子位

作者微信号：QbitAI

作者简介：关注人工智能新趋势，致力于科技行业的最新突破。