OpenAI大神：幻觉不是缺陷，而是大模型的优势！

研究显示，人们对于LLM（Large Language Model）产生的幻觉和虚假陈述感到担忧，认为有必要进一步优化这些模型以避免这种情况的发生。但最近，OpenAI知名科学家、特斯拉前AI总监Andrej Karpathy在一篇文章中表示，他认为幻觉并不是LLM的缺陷，反而是其强大力量的一种体现。

LLM产生幻觉的原因在于模型生成的文本可能不符合原文或者事实，这并非因为模型有Bug，而是由于LLM在处理自然语言时，虽然能够模拟人类的语言表达方式，但实际上并不能真正理解语义背后的含义。举例来说，当人们询问LLM关于孙悟空三打诸葛亮的故事时，即使这两者毫不相关，ChatGPT仍然会生成一个看似合理的答案，但这个答案可能是不准确的，甚至与实际情况相悖。

LLM产生幻觉的两个主要原因是，一是模型训练基于大量语料库，其中可能包含大量噪音和无关信息，导致模型难以提取真正的语义信息；二是模型缺乏对外部世界的知识和理解。因此，幻觉在一定程度上是LLM工作本质的体现，而非缺陷。

原文链接：幻觉不是缺陷反而是优势！OpenAI大神认为大模型是“造梦机”。

作者联系方式：
文章来源：夕小瑶科技说
作者微信：xixiaoyaoQAQ
作者简介：聚集了25万AI应用开发者、算法工程师和研究人员，提供更快的AI前沿和更深入的行业洞见。其一线作者来自清华北大、国外顶级AI实验室和互联网巨头，具备媒体敏感度和技术深度。