OpenAI 发布公告为 ChatGPT 新增两项高级安全防护措施,用以应对 AI 系统在对接网页、外部应用场景中日益凸显的提示注入攻击风险,该类攻击会被第三方利用诱导 AI 执行恶意指令或泄露敏感信息,新措施均建立在平台现有沙箱机制、URL 数据外泄防护等多层安全体系之上。
此次推出的首个防护措施是Lockdown Mode(锁定模式),这是面向高安全需求用户的可选高级设置,并非面向普通用户,核心通过严格限制 ChatGPT 与外部系统的交互方式降低数据外泄风险。该模式会确定性禁用或限制易被利用的工具能力,比如网页浏览仅可访问缓存内容,无强安全保证的功能将直接禁用。
目前该模式适用于 ChatGPT Enterprise、Edu、医疗和教师版,管理员可在工作台设置中创建角色启用,且能细粒度管控锁定模式下可使用的外部应用及具体操作;OpenAI 还计划未来数月将该模式开放给消费者用户,同时 Compliance API Logs Platform 可辅助管理员实现应用使用、数据共享的监管审计。
第二项措施是在ChatGPT、ChatGPT Atlas 与 Codex中,为存在额外安全风险的功能统一标注 **“Elevated Risk(风险提升)”** 标签,标准化风险提示方式。
OpenAI 表示,部分网络相关能力虽能提升 AI 实用性,但存在尚未被行业防护措施完全解决的风险,标注标签能让用户清晰知晓风险,自主决定是否使用,尤其适用于处理私密数据的场景。以 Codex 为例,开发者开启其网络访问权限时,界面会显示该标签,并明确告知启用后的变化、潜在风险及适用场景,同时给出风险缓解建议。





京公网安备 11011402013531号