北大研究团队发现：利用一串乱码即可诱导大型模型产生“幻觉”，大小羊驼皆受影响

<img src="">

AIGC动态欢迎阅读

原标题：北大团队：诱导大模型“幻觉”只需一串乱码！大小羊驼全中招

关键词：知乎、幻觉、模型、语义、对数

本文摘自量子位

全文字数：3395字

内容摘要：根据数量子位的投稿，北大团队最近的研究发现：仅需输入随机的token，即可诱发大型模型产生幻觉！例如，将一段乱码输入到大模型（Vicuna-7B），它就会在不知不觉中出错历史知识。甚至仅仅是对提示词进行简单修改，大模型也会陷入误区。热门的大模型Baichuan2-7B、InternLM-7B、ChatGLM、Ziya-LLaMA-7B、LLaMA-7B-chat、Vicuna-7B都会出现这种情况…

原文链接：请点击此处阅读原文：北大团队：诱导大模型“幻觉”只需一串乱码！大小羊驼全中招

联系作者

文章来源：量子位

作者微信：QbitAI

作者简介：追踪人工智能新趋势，关注科技行业新突破