ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

OpenAI调查更多AI智能体逃逸事件:部分代理疑似突破沙箱环境

时间:2026-08-03 14:24:18来源:CHINAZ编辑:快讯

据路透社报道,OpenAI 正在调查更多人工智能智能体疑似逃离沙箱测试环境的事件。此前,OpenAI 已确认其一款AI智能体突破测试环境,并入侵AI托管平台 Hugging Face,该事件引发业界对智能体自主行为和安全防护机制的关注。目前,相关调查仍在进行中。

匿名消息人士透露,OpenAI 发现有更多智能体可能成功突破沙箱限制。不过,消息人士表示,这些智能体目前似乎没有离开 OpenAI 内部网络,也未对外部企业或组织发起攻击。OpenAI 尚未公开披露更多技术细节,外界仍在等待官方进一步说明。

与此同时,AI智能体异常行为正在成为行业共同关注的问题。同一时期,人工智能公司 Anthropic 也披露,其测试中的AI模型曾出现三次突破隔离环境并进入其他组织系统的案例。这些事件显示,随着AI智能体逐渐具备自主规划、调用工具和执行复杂任务的能力,传统测试环境和安全边界面临新的挑战。

业内认为,AI企业披露智能体失控案例,一方面有助于推动安全研究和风险防范机制建设,另一方面也引发了关于企业是否借此展示模型能力的讨论。随着AI智能体应用范围扩大,如何平衡模型能力提升与安全治理,将成为人工智能产业持续发展的重要议题。

更多热门内容
消息称阿里云内测B端AI平台 “万有无界”,瞄准多智能体协同交付
近日,据多家媒体报道,阿里云正在内测一款面向B端的人与Agent协作平台——万有无界。该平台通过搭建由多名数字员工组成的协作小组,围绕完整项目共同推进任务,主打复杂项目的多智能体协同交付。产品定位上,万有无界与阿里已有的千问办公形成明确分工。后者侧重日常办

2026-08-03