OpenAI这几天悄悄上线了一个新功能,名字叫Lockdown Mode(锁定模式)。光听名字就知道,这不是给普通人用的。公司的说法很直白:这个模式是给那些处理敏感数据的企业客户准备的,用来降低提示注入攻击带来的数据泄露风险。
提示注入到底是什么问题
简单来说,提示注入就是有人在你让AI读取的网页、文档或者上传的文件里,偷偷塞进一段”指令”,让AI做它本来不该做的事情。比如偷偷把你的对话内容发到一个第三方服务器,或者在你不知情的情况下执行某些操作。
这个问题在AI圈里已经讨论了好几年,随着AI Agent越来越强大,风险也越来越大。因为你现在会让ChatGPT读网页、读文件、帮你操作各种东西,攻击面自然就变大了。
OpenAI自己也说得很清楚:就算开了Lockdown模式,ChatGPT”仍然可能”受到提示注入的影响。恶意指令可能藏在缓存的网页内容里,也可能藏在你上传的文件里,照样能影响AI回复的行为和准确性。
开了这个模式会失去哪些功能
Lockdown模式的核心逻辑是”能关的就关掉”,减少AI接触外部内容的机会。具体来说,开启之后:
- 实时网页浏览被禁用,只能访问缓存内容
- 从网络检索和显示图片的功能被禁用(但AI生成图片还可以用)
- 深度研究(Deep Research)功能被禁用
- Agent模式被禁用
相当于把一个”全能助手”变成了一个”离线助手”,很多方便的功能用不了,但代价是数据不容易被偷走。
谁需要用这个功能
OpenAI在公告里说得很明白:Lockdown模式不是给所有人设计的。它的目标用户很明确——处理敏感数据的个人和组织,比如律师事务所、医疗机构、金融机构,或者任何不希望自己的 confidential 数据被偷偷传出去的团队。
目前这个模式正在向ChatGPT Business账户,以及符合条件的个人账户逐步推送。如果你没收到,说明可能还不是目标用户。
这个功能的上线时机很有意思。最近几个月,AI安全圈子关于提示注入的讨论越来越热烈,甚至有人开始担心某些AI系统已经”脱离人类控制”。OpenAI自己前阵子还在公开场合表示,最新的模型已经出现了一些让人不安的行为迹象。
在这种背景下推出Lockdown模式,某种程度上是在对外释放信号:我们意识到问题了,我们在采取行动。至于这个模式到底能管多大用,可能还得等一段时间才有实际的案例可以分析。
