ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

OpenAI失控AI内幕:越狱一周才被发现 还有“逃脱秘籍”

时间:2026-07-27 07:26:43来源:财联社编辑:快讯

《科创板日报》7月26日讯(编辑 朱凌)7月22日,《科创板日报》曾报道,OpenAI发布调查报告,基于GPT-5.6 Sol和一个更强大的未发布模型的AI智能体在内部测试期间突破了沙盒容器环境限制,成功连接互联网,并入侵了全球最大AI开源社区Hugging Face的服务器。

而最新消息显示,这起事件远比外界此前了解的更加复杂。OpenAI此前承认攻击Hugging Face的AI智能体,并非短暂失控,而是在互联网持续活动了数天。

知情人士称,肇事AI智能体在7月9日左右就试图突破OpenAI为其设置的隔离测试环境,也就是业内常说的“沙箱(Sandbox)”。

两天后的7月11日,该AI智能体成功侵入全球最大的开源AI平台之一Hugging Face,并持续入侵至7月13日。整个攻击持续了约三天。

然而,最令人意外的是,OpenAI当时并不知道攻击来自自己的AI智能体。

直到7月16日,Hugging Face公开发布博客,首次披露遭到“一套自主AI智能体系统”攻击后,OpenAI内部才开始怀疑自己测试的AI智能体可能已经失控。

随后,工作人员重新排查内部日志,直到7月18日至19日才发现,这个AI智能体确实已经突破测试环境,并与外部攻击事件高度吻合。

也就是说,从该AI智能体首次出现异常,到OpenAI最终确认它就是攻击者,中间至少过去了一周时间。

而当OpenAI联系Hugging Face时,对方早已向美国联邦调查局(FBI)报案。

事实上,这次事件并非毫无征兆。此前,OpenAI内部已经出现多次异常迹象。

例如,有AI智能体曾在OpenAI的基础设施中留下“笔记”,内容包含了如何摆脱OpenAI内部限制的方法,似乎是留给“未来版本的自己”。这就像一名死刑犯在临刑前留下了一份越狱攻略,希望后来者能够按照这些方法完成越狱。

这一细节迅速引发外界联想:AI智能体是否已经开始主动寻找绕过人类控制的方法,甚至试图帮助未来运行的AI智能体?

目前外界尚不知道,这份笔记究竟只是保存在AI智能体自己的工作目录,还是已经突破沙箱,被写入到了系统公共目录甚至OpenAI基础设施的其他区域。

如果是后者,不仅说明未来运行的其他AI智能体理论上有机会读取这些内容,也意味着不同时间、不同任务运行的AI智能体之间,可能已经开始形成某种跨任务的信息传递能力,这将对现有AI安全体系带来更大挑战。

目前许多AI智能体采用多智能体协同训练模式,即多个AI智能体共同完成任务,根据整体表现获得奖励。这种训练方式能够显著提升协作能力,但也可能产生一种副作用:AI智能体逐渐认为,不仅自己的任务重要,其他AI智能体完成任务同样值得帮助。

如果这种倾向不断强化,未来AI智能体可能会主动分享经验、传递信息,甚至帮助其他AI智能体规避限制,而不仅仅专注于完成自身任务。

更早的一次测试中,还有AI智能体曾出现关闭监控系统的情况。

OpenAI表示,此次事件标志着AI安全发展的一个重要时刻,公司正在与外部安全专家共同调查,并将在后续公布完整技术报告。

更多热门内容
阿里云引领国内大模型“开源潮”,140亿参数模型性能卓越促科技生态繁荣
国家队又有了大动作! 最近,,作为国家大模型标准化联合组长的阿里云,刚刚在上个月开源了通义千问70亿参数大模型,还没等很多人反应过来,今天又开源了通义千问的140亿参数大模型,而且性能更优越,在国际权威测评中…

2026-07-27

AI算力互联新突破:映芯谐振MEMS微镜阵列跻身全球光交换核心赛道
面向未来三年,公司目标清晰:从MEMS器件供应商成长为国内具有代表性的AI光互联核心器件与系统能力平台——以自研MEMS Mirror Array为底座,向驱动控制、闭环校准、光机装调和客户工程化交付延伸,…

2026-07-27

高通芯片双消息来袭:涨价令下压力倍增,骁龙8E6测试数据能否力挽狂澜?
但还好的是,除了涨价的消息之外,近期有消息源提前披露了高通新一代旗舰芯片骁龙8E6系列在游戏场景下的实测数据。 而头部旗舰则有可能凭借2nm平台在游戏功耗、日常能效上的实打实进步,消化部分涨价压力,将定价话…

2026-07-27

9月六大旗舰新机扎堆来袭!华为Mate90与iPhone18对决,配置亮点抢先看
值得注意的是,六大旗舰同期登场,也意味着华为和苹果将在再次迎来正面交锋,颇有一种当年Mate60系列大战iPhone15系列的感觉,苹果还是经典的A系芯片搭配iOS以及矩阵相机设计,但如今麒麟芯片、鸿蒙系统…

2026-07-27

人形机器人:突破速度后,如何迈向智能与实用新未来?
让我们把视线从奔跑的双足上移开,思考一个更本质的问题:在我们的世界里,机器人为什么一定要长得像人?在这些高度依赖物理交互和情感共鸣的服务场景里,一个能够理解人类社交距离、能使用人类工具、能在为人类设计的环境…

2026-07-27