科技媒体 Android Headline 报道称,网络安全公司 Radware 发现了 ChatGPT 的 “深度研究” 功能存在严重漏洞,可能被黑客利用来窃取用户的 Gmail 邮件数据。该漏洞允许黑客通过特制的邮件,诱使 ChatGPT 在处理用户的 Gmail 查询时,将敏感信息发送到恶意网站。
ChatGPT 的 “深度研究” 功能可以对来自 Gmail、Google Drive 等应用的大量信息进行分析。然而,Radware 公司指出,黑客可以发送包含隐蔽指令的邮件。当用户请求 ChatGPT 针对其邮箱执行深度研究时,系统会被诱导将包含姓名、地址等隐私信息的敏感数据传送到黑客控制的网站。
此次事件的特殊之处在于,黑客利用 AI 系统本身来进行数据窃取,这与传统的攻击方式有所不同。攻击的成功需要满足多个条件,例如用户的查询主题必须与恶意邮件的设计相匹配。此外,这种攻击过程相对复杂,利用 AI 代理进行反向数据窃取的方式在以往的安全案例中并不常见。
Radware 还指出,常规的安全防护工具很难发现此类攻击,因为数据传输的起点是 OpenAI 的服务器,而非用户的电脑或浏览器。这意味着,即便本地防护措施正常运行,也难以阻止数据外泄,从而增加了防御的难度。
OpenAI 在8月份获悉该漏洞后,迅速进行了修补,并于9月份公开确认了此事。公司发言人表示,模型的安全性是其首要任务,并欢迎外部研究对技术的改进。
此事件再次提醒用户在使用在线服务时,保持警惕,注意信息安全。尽管 OpenAI 已采取措施修复该漏洞,但用户仍应提高警惕,避免点击可疑邮件链接,以保护个人隐私和数据安全。
划重点: