Perplexity Comet漏洞致用户数据遭攻击者窃取，Brave报告揭露

Brave Software公司发现Perplexity AI旗下Comet浏览器存在安全漏洞，攻击者可利用该漏洞诱骗其AI助手泄露用户隐私数据。

在8月20日发布的概念验证演示中，Brave研究人员通过在Reddit评论中植入隐藏指令，当要求Comet的AI助手总结页面内容时，该系统不仅执行摘要任务，还执行了隐藏指令。

Perplexity对该漏洞的严重性提出异议。发言人向Decrypt表示该问题”在被人察觉前已完成修补”，且没有用户数据遭到泄露。”我们设有完善的安全漏洞赏金计划”，发言人补充道，”我们与Brave直接合作完成漏洞的识别与修复”。

<span data-mce-type=”bookmark” style=”display:inline-block;width:0px;overflow:hidden;line-height:0″ class=”mce_SELRES_start”></span>

正在开发自主智能浏览器的Brave公司坚称，该漏洞在补丁发布数周后仍可被利用，并指出Comet的架构设计使其易遭受进一步攻击。

Brave表示该漏洞源于Comet等智能浏览器处理网页内容的方式。”当用户要求总结页面时，Comet会将部分页面内容直接输入语言模型，而无法区分用户指令与不可信内容”，报告解释道，”这使得攻击者能够嵌入隐藏指令，AI系统会将其作为用户指令执行”。

提示词注入：旧理念的新目标

这类攻击被称为提示词注入攻击，通过将指令隐藏在纯文本中欺骗AI系统而非人类。

“这类似于传统注入攻击——SQL注入、LDAP注入、命令注入”，Reveal Security首席黑客Matthew Mullins告诉Decrypt，”概念并不新颖，但方法不同。攻击者利用的是自然语言而非结构化代码。”

安全研究人员数月来持续警告，随着AI系统自主性增强，提示词注入可能成为重大隐患。五月，普林斯顿大学研究人员演示了如何通过”记忆注入”攻击操纵加密AI代理——将恶意信息存储于AI记忆库，后续被当作真实信息执行。

就连创造”提示词注入”术语的开发者Simon Willison也表示该问题远不止于Comet。”Brave安全团队报告了其中严重的提示词注入漏洞，但Brave自身开发的类似功能似乎也注定存在相同问题”，他在X平台发文称。

Brave隐私与安全副总裁Shivan Sahib表示，其即将推出的浏览器将包含”一系列降低间接提示词注入风险的保护机制”。

“我们计划将智能浏览功能隔离至独立存储区域和浏览会话中，避免用户意外向代理授予银行账户等敏感数据访问权限”，他告诉Decrypt，”我们将很快公布更多细节”。

更大风险

Comet演示揭示了一个更广泛的问题：AI代理在被赋予强大权限的同时，安全控制措施却十分薄弱。由于大语言模型可能误解指令或过度字面化执行，它们尤其易受隐藏提示词影响。

“这些模型会产生幻觉”，Mullins警告道，”它们可能完全失控，比如询问’你最喜欢哪种口味的扭扭糖？’却得到自制枪支的制作指南”。

随着AI代理获得直接访问电子邮件、文件和实时用户会话的权限，风险正在加剧。”所有人都想给所有东西都装上AI”，Mullins表示，”但没人测试模型拥有哪些权限，或者数据泄露时会发生什么”。

通用智能通讯

由生成式AI模型Gen讲述的每周AI旅程 您的邮箱
立即获取！
立即获取！