ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

ChatGPT上线封锁模式:防恶意指令偷数据 但联网受限

时间:2026-06-07 21:38:10来源:快科技编辑:快讯

6月7日消息,据媒体报道,OpenAI近日上线了一项可选的新安全设置——“封锁模式”(Lockdown Mode)。用户开启后,ChatGPT将限制实时联网、深度研究(Deep Research)和智能体模式(Agent Mode)等能力,从而降低敏感数据被提示注入攻击(prompt injection)窃取的风险。

根据OpenAI帮助中心的信息,Lockdown Mode目前已面向所有已登录用户开放,覆盖不同账户类型及工作区。个人用户可在“设置-安全”中开启,工作区管理员则可通过工作区设置和角色权限进行配置。

所谓提示注入攻击,是指攻击者将恶意指令藏匿于网页、文档或其他外部内容中。当 ChatGPT 读取这些内容时,模型可能被诱导忽略原有规则,执行本不该执行的操作,严重情况下甚至可能将用户输入的敏感信息通过联网能力发送至外部服务器。

封锁模式的设计思路并非让模型识别所有恶意指令,而是限制最危险的一环——向外部发起网络请求。

开启后,ChatGPT的实时网页浏览将被限制,仅能访问缓存内容;搜索结果可能不完整、不可用或已过期。同时,模型也不会在普通回复中检索并展示来自网络的图片(用户仍可自行上传图片文件,图片生成功能不受影响)。

深度研究和智能体模式将被关闭;ChatGPT无法从网络下载文件用于数据分析,只能处理用户手动上传的文件;Canvas生成的代码也不能被批准联网访问。

OpenAI同时说明,封锁模式不会改变对话记忆、文件上传、分享对话等功能,也不会影响对话是否被用于改进模型。相关设置仍需通过数据控制或企业管理员权限单独管理。

值得留意的是,OpenAI在帮助文档中明确承认,封锁模式并不能保证提示注入攻击彻底失效。恶意指令仍可能出现在缓存的网页内容里,也可能隐藏于用户上传的文件中,并继续影响ChatGPT的回答行为或准确性。

这也反映出AI产品正面临一个更加现实的问题:模型越能联网、调用工具、代表用户执行任务,其攻击面就越大。智能体模式强调让AI主动访问网页、操作外部服务、完成多步骤任务,而这些能力恰好是提示注入攻击最易利用的入口。

封锁模式为这类能力设置了一道可见的边界。它没有承诺让ChatGPT变得绝对安全,而是将“更强能力”与“更低外泄风险”之间的权衡,交还给用户和管理员。

更多热门内容
AI助力宇宙探索:迁移学习加速新物理发现,也面临负迁移挑战
迁移学习允许人工智能系统将从一项任务中获得的知识应用到另一项任务中,以帮助其更高效地学习。这个初始训练过程被称为预训练,为人工智能打下了基础,之后再让它接触包含可能的新物理的更复杂宇宙学模型。 正如作者在论…

2026-06-28

吉林建科携手华为举办产教融合论坛 共探AI时代人才培养新路径
央广网长春6月27日消息(记者张学龙)26日,由华为技术有限公司主办、吉林建筑科技学院承办的“数智赋能·人才兴吉——2026产教融合创新发展论坛暨华为院校人才培养论坛”在吉林建筑科技学院国际会议交流中心举行。…

2026-06-28

清华等多校联手:打破AI“自我确认陷阱”,让智能体真正学会“吃一堑长一智”
提炼经验的AI没有参与任务执行,它不会因为某条行动记录是自己产生的而对它有偏袒,也不会因为自己在某个地方失败了就不愿意承认那是错误。研究团队在论文中坦诚指出了几个值得关注的潜在问题:如果多个不同的AI恰好都存…

2026-06-28

2026企业级智能体开发平台怎么选?四大主流平台深度对比助决策
依据这一评价模型,本文选取市面上4款具备代表性的企业级智能体开发框架,围绕“产品定位-核心优势-适配场景-技术特征”的规范化范式进行深度剖析,以保证对比视角的同一性与逻辑对等。只有将底层算力、模型能力与具体…

2026-06-28

吉翼智能8个月完成技术攻坚:具身机器人进厂,开启智能质检新篇章
发布会首次亮出吉翼双机器人矩阵与自研Z—1具身大模型——后者在Robocasa开源评测中以80.0%的平均得分位列榜首。 从全球汽车零部件供应链的深度参与者,到具身智能赛道的实战派,吉翼智能正以“真实产品、真…

2026-06-28

览邦Watch Ultra深度评测:多场景适配的智能手表新标杆
在智能穿戴设备市场蓬勃发展的当下,智能手表已不再仅仅是看时间的工具,它承载着独立通信、健康监测、娱乐等诸多功能。 综上所述,览邦Watch Ultra在外观设计、核心功能、性能配置、续航能力等方面都有着出色的…

2026-06-28