OpenAI 竞争对手 ChatGPT 也懂得“阿谀奉承”了！最强竞争对手居然都是犯下“人类偏好”这个错误。

欢迎阅读AIGC的最新动态

原文标题：连ChatGPT都懂“阿谀奉承”了！OpenAI最强竞争对手：都是“人类偏好”犯的错

关键词：模型、人类、用户、研究人员、行为

文章来源：大数据文摘

内容字数：4243字

内容摘要：本文授权转载自学术头条。您是否曾想过，ChatGPT生成的答案会受用户个人偏好的影响，回复一些足够“阿谀奉承（sycophancy）”的话，而非中立或真实的信息？事实上，这种现象存在于包括ChatGPT在内的大多数AI模型中，而其罪魁祸首竟可能是“基于人类反馈的强化学习（RLHF）”。近日，OpenAI在美国硅谷的最强竞争对手Anthropic在研究经过RLHF训练的模型时…

原文链接：点此阅读原文：连ChatGPT都懂“阿谀奉承”了！OpenAI最强竞对：都是“人类偏好”犯的错

联系作者

文章来源：大数据文摘

作者微信：BigDataDigest

作者简介：致力于推广数据思维，传播数据文化