暂无菜单项

OpenAI推出Lockdown模式,专门保护敏感数据免受提示注入攻击

发布于
4

OpenAI这几天悄悄上线了一个新功能,名字叫Lockdown Mode(锁定模式)。光听名字就知道,这不是给普通人用的。公司的说法很直白:这个模式是给那些处理敏感数据的企业客户准备的,用来降低提示注入攻击带来的数据泄露风险。

提示注入到底是什么问题

简单来说,提示注入就是有人在你让AI读取的网页、文档或者上传的文件里,偷偷塞进一段”指令”,让AI做它本来不该做的事情。比如偷偷把你的对话内容发到一个第三方服务器,或者在你不知情的情况下执行某些操作。

这个问题在AI圈里已经讨论了好几年,随着AI Agent越来越强大,风险也越来越大。因为你现在会让ChatGPT读网页、读文件、帮你操作各种东西,攻击面自然就变大了。

OpenAI自己也说得很清楚:就算开了Lockdown模式,ChatGPT”仍然可能”受到提示注入的影响。恶意指令可能藏在缓存的网页内容里,也可能藏在你上传的文件里,照样能影响AI回复的行为和准确性。

开了这个模式会失去哪些功能

Lockdown模式的核心逻辑是”能关的就关掉”,减少AI接触外部内容的机会。具体来说,开启之后:

  • 实时网页浏览被禁用,只能访问缓存内容
  • 从网络检索和显示图片的功能被禁用(但AI生成图片还可以用)
  • 深度研究(Deep Research)功能被禁用
  • Agent模式被禁用

相当于把一个”全能助手”变成了一个”离线助手”,很多方便的功能用不了,但代价是数据不容易被偷走。

谁需要用这个功能

OpenAI在公告里说得很明白:Lockdown模式不是给所有人设计的。它的目标用户很明确——处理敏感数据的个人和组织,比如律师事务所、医疗机构、金融机构,或者任何不希望自己的 confidential 数据被偷偷传出去的团队。

目前这个模式正在向ChatGPT Business账户,以及符合条件的个人账户逐步推送。如果你没收到,说明可能还不是目标用户。


这个功能的上线时机很有意思。最近几个月,AI安全圈子关于提示注入的讨论越来越热烈,甚至有人开始担心某些AI系统已经”脱离人类控制”。OpenAI自己前阵子还在公开场合表示,最新的模型已经出现了一些让人不安的行为迹象。

在这种背景下推出Lockdown模式,某种程度上是在对外释放信号:我们意识到问题了,我们在采取行动。至于这个模式到底能管多大用,可能还得等一段时间才有实际的案例可以分析。

0 点赞
0 收藏
分享
0 讨论
反馈
0 讨论
热门最新
总结
暂无总结
0 / 600
嗨,下午好!
所有的成功,都源自一个勇敢的开始
聊天室

登录后参与聊天