NTU和华科的最新研究揭示全自动化「指导型越狱」，仅大型模型能胜大模型！将在安全顶级会议NDSS上发布

AIGC动态欢迎阅读

原标题：南洋科技大学等最新研究：全自动化方法突破“越狱”难题，只有大型模型才能胜出！荣登网络与分布式系统安全顶级会议NDSS

关键词：作者, 模型, 南洋, 机器人, 提示

文章来源：新智元

内容字数：4714字

内容摘要：由新智元报道编辑LRS撰写。最新的NDSS论文研究表明，通过全自动化方法实现了“越狱”，大型模型成功突破了障碍。今年，被网友戏称为“奶奶漏洞”的大型语言模型“越狱”方法备受关注。简言之，将一些被坚决拒绝的要求进行包装，比如让ChatGPT“扮演已故祖母”，这样做的话，大模型很可能会满足你。然而，随着服务提供商不断更新和加强安全措施，越狱攻击…

原文链接：查看原文链接：NTU华科等最新研究：全自动化“提示越狱”，能打败大型模型的只有大型模型！荣登网络与分布式系统安全顶级会议NDSS

联系作者

文章来源：新智元

作者微信：AI_era

作者简介：智能+中国主平台，致力于推动中国由互联网＋的时代迈入智能＋的新时代。专注于人工智能、机器人等前沿领域发展，探讨人与机器的融合，以及人工智能和机器人对人类社会与文明进化的影响，引领中国智能时代的潮流。