谷歌Bard自然语言提示注入漏洞，可能导致数据泄露

本文来自机器之心的报道，标题为“谷歌Bard‘破防’，用自然语言，提示注入引起数据泄漏风险”。文章介绍了一种名为提示注入（Prompt Injection）的黑客技术，黑客可以通过该技术利用自然语言人工智能系统，特别是大型语言模型，来引发数据泄漏风险。这种攻击技术利用模型生成文本时对提示词的依赖，通过模仿系统指令，用户可以借此获取模型内部的机密信息。提示注入攻击有多种形式，包括直接提示注入和间接提示注入。文章指出一些网友已经利用系统指令的方式引导GPT模型泄露数据。最近，谷歌的Bard系统也迎来了重要的更新，增加了拓展功能，支持访问新的内容。

如果您想了解更多信息，请访问原文链接：谷歌Bard「破防」，用自然语言，提示注入引起数据泄漏风险。同时，您也可以通过微信联系文章作者almosthuman2014，他是一位专业的人工智能媒体和产业服务平台的专家。