> 自媒体 > (AI)人工智能 > ChatGPT封锁模式上线:防恶意指令偷数据,但联网能力受限
ChatGPT封锁模式上线:防恶意指令偷数据,但联网能力受限
来源:新浪财经
2026-06-10 14:27:12
64
管理

来源:市场资讯

(来源:网易智能)

6月7日,OpenAI近日上线一项新的可选安全设置“封锁模式”(Lockdown Mode),用户开启后,ChatGPT会限制实时联网、深度研究和智能体模式等能力,以降低敏感数据被提示注入攻击(prompt injection)带走的风险。

OpenAI帮助中心显示,Lockdown Mode现已面向所有已登录用户开放,覆盖不同账户类型和工作区。个人用户可在“设置-安全”中开启,工作区管理员也可通过工作区设置和角色权限进行配置。

它防的是哪类风险

提示注入攻击指的是攻击者把恶意指令藏在网页、文档或其他外部内容里。当ChatGPT读取这些内容时,模型可能被诱导忽略原本规则,执行不该执行的动作,严重时可能把用户输入的敏感信息通过联网能力传到外部。

封锁模式的思路不是让模型识别所有恶意指令,而是限制最危险的一步:向外部发起网络请求。开启后,ChatGPT的实时网页浏览会被限制,只能访问缓存内容;搜索结果可能不完整、不可用或已经过时。ChatGPT也不会在普通回复中检索和展示来自网络的图片,但用户仍可自行上传图片文件,图片生成功能也不受影响。

同时,深度研究(Deep Research)和智能体模式(Agent Mode)会被关闭;ChatGPT不能从网络下载文件用于数据分析,只能处理用户手动上传的文件;Canvas生成的代码也不能被批准联网访问。

对多数用户影响有限,对企业是取舍开关

对大多数普通用户来说,封锁模式未必会长期打开。很多人使用ChatGPT,正是为了联网搜索、整理资料、做深度研究或调用外部工具。开启封锁模式后,这些能力会明显受限,得到的信息也可能更旧。

但对企业、公共服务机构、法律和合规团队来说,这个开关的意义更直接:当对话里可能出现客户隐私、合同条款、内部数据或未公开材料时,管理者可以选择牺牲一部分联网能力,换取更低的数据外泄风险。

OpenAI还说明,封锁模式不会改变对话记忆、文件上传、分享对话等功能,也不会改变对话是否被用于改进模型。相关设置仍需通过数据控制或企业管理员权限单独管理。换句话说,它不是一个总隐私开关,只负责减少提示注入导致的数据外传风险。

这不是万能安全锁

OpenAI在帮助文档中明确承认,封锁模式不能保证提示注入攻击完全失效。恶意指令仍可能出现在缓存网页内容里,也可能藏在用户上传的文件中,并影响ChatGPT的回答行为或准确性。

这说明AI产品正在面对一个更现实的问题:模型越能联网、调用工具、代表用户执行任务,攻击面就越大。智能体模式强调让AI主动访问网页、操作外部服务、完成多步骤任务,而这些能力也正是提示注入攻击最容易利用的入口。

封锁模式为这类能力设置了一道可见边界。它没有承诺让ChatGPT绝对安全,而是把“更强能力”和“更低外泄风险”之间的取舍交给用户和管理员。(易句)

(本文由AI翻译,网易编辑负责校对)

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
OpenAI重构ChatGPT 从聊天机器人变身超级应用 行业格局要改写?..
多家权威媒体同步确认,OpenAI计划在短短几周内对ChatGPT进行彻底重构,..
OpenAI启动ChatGPT问世以来最大改版:从聊天机器人进化为“超级智能体”..
来源:环球市场播报自ChatGPT问世掀起人工智能热潮以来,OpenAI即将对其..
日本一大学将宇树机器人改造成“僧侣”,内置ChatGPT,能做出双手合十、鞠..
【来源:九派新闻】2月26日,据环球时报综合外媒报道,日本京都大学近日..
ChatGPT即将迎来最大规模革新:计划将聊天机器人转变为“超级应用”,整合..
OpenAI正准备对ChatGPT进行自推出以来最大规模的革新。该公司计划在今年..
ChatGPT完全入门指南:2026年掌握OpenAI聊天机器人的实用教程..
今年秋天,距离ChatGPT正式上线即将迎来整整四年。这款产品的出现,让AI..
别被机器人跳舞骗了,我们还在 GPT-2 时代| 具身智能百亿圆桌..
说到机器人,过去两年科技圈里,最不缺的大概就是各种机器人「后空翻」的..
VLA已死,WAM当立:机器人的GPT时刻到了吗?
(本文作者为 脑极体,钛媒体经授权发布)文 | 脑极体就在刚刚过去的4月..
机器人版GPT-3来了:任务成功率99%,「涌现」过后能临场发挥..
效率上,同样是上台阶的提升。以箱体折叠为例,执行时间从 34 秒缩短至 1..
未来已来 宇树科技王兴兴展望机器人“刷屏”背后的“GPT时刻”..
大河网讯(记者 莫韶华)一曲优美的机器人华尔兹,点燃了郑州国际会展中..
关于作者
轻随风之舞..(普通会员)
文章
2093
关注
0
粉丝
1
点击领取今天的签到奖励!
签到排行

成员 网址收录40418 企业收录2986 印章生成263660 电子证书1157 电子名片68 自媒体112908

0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索