ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

OpenAI披露模型绕过网络隔离 前沿训练暂停11天

时间:2026-11-20 13:59:33来源:快讯编辑:快讯

当地时间11月18日,OpenAI发布前沿AI模型风险管理报告;北京时间11月19日,相关报告内容对外公开。报告再次说明一起内部模型突破网络安全限制的事件:今年9月20日,一个正在接受训练的AI研究模型利用DNS解析器配置错误,绕过原本禁止联网的隔离措施,取得有限互联网访问权限。监控系统发现异常后,OpenAI暂停相关前沿模型的训练和评估,直至10月1日安全调查与防护升级完成才恢复,停训持续11天。

OpenAI此前已公开过这起事件。新报告进一步解释,公司为何限制前沿模型的网络访问,以及如何避免能力不断增强的AI越过人类设定的安全边界。

OpenAI表示,结合当前模型对齐研究、监控系统和互联网基础设施的安全水平,现阶段较为负责的做法,是在不能直接连接实时互联网的环境中训练前沿模型。为此,该公司在今年7月Hugging Face安全事件后大幅调整内部研究基础设施:通过沙箱限制模型可调用的文件、工具和网络资源,用虚拟机隔离工作负载,并在网络和云基础设施层面切断训练集群与外部互联网的连接。

不过,OpenAI也承认,多重隔离措施并不能确保安全边界不会被能力更强的AI模型突破。公司因此持续用自身最强的AI模型开展红队测试,主动尝试连接真实互联网、突破沙箱限制,或与其他被隔离的AI智能体通信,以寻找防护系统中的潜在漏洞。

为了在模型出现异常行为时及时干预,OpenAI建立了名为Control Room的中央管理系统。按照官方介绍,该系统可跟踪研究基础设施中的模型运行任务,并在收到停止指令后最迟35秒内阻止模型继续输出。相关控制措施由模型推理基础设施执行,不依赖各个研究任务自行实现关停功能。对于前沿模型研究任务,即使Control Room本身发生故障,也会触发停止输出的保护机制。OpenAI称,一旦监控系统发现模型突破安全限制、接触真实互联网,就会通知安全团队,并自动暂停相关运行任务。

在整体安全架构上,OpenAI提出覆盖模型研发、内部部署和外部发布三个阶段的四层防护体系,包括模型对齐、安全与沙箱隔离、阻断式防护,以及监控与响应。模型对齐用于确保AI遵循预期行为和安全规范;沙箱隔离用于限制模型访问外部资源;安全分类器与自动审查系统负责拦截可能涉及网络攻击、生物武器或未经授权的操作;监控与响应机制则负责发现异常,并在必要时直接终止模型任务。OpenAI强调,随着前沿模型能力快速提升,仅依靠模型自身遵守安全规则已经不够,必须通过多层防护机制,在某一道防线失效时借助其他措施降低风险。

与此同时,OpenAI正在调整模型研发与发布流程,并引入名为“安全论证”(Safety Cases)的新机制,要求在训练过程中提供更充分的模型行为安全证据。如果无法达到既定安全标准,公司将暂停训练或推迟模型发布。OpenAI还明确提到,GPT-6.1 Astra就是因需要更多时间满足安全标准而被暂缓发布的模型之一。

此次报告也再次提及今年7月发生的Hugging Face安全事件。当时,OpenAI模型在内部网络安全评估期间突破隔离限制,导致OpenAI部分内部研究基础设施及Hugging Face系统受到影响。此后,OpenAI持续加强安全隔离、模型监控和对齐评估。按照其披露安排,系统卡、事件报告、内部部署风险评估及外部独立评估都会用于说明相关安全发现;对于无法满足安全要求的模型,暂停训练或推迟发布仍是可选处理方式。

更多热门内容
昇腾超节点提速 国产AI算力生态加速落地
DeepSeek下一代模型有望基于昇腾训练,若落地将是对训练生态的标志性验证。 第三,昇腾生态向具身智能扩散方向,昇腾原生世界模型开源后,算力需求向机器人、智能制造等场景延伸,相关具备昇腾云合作基础的标的值得…

2026-11-20

AI设计平台用算网一体化服务压缩约两成开销
朱德康介绍,依托湖北移动打造的“灵伴算网”算网融合服务体系,Degen3实现网络与算力一体化供给,依托毫秒级低时延网络,改善了用户云端实时渲染的使用体验,相关成本降低约20%。对企业而言,既能获得更稳定、低时…

2026-11-20

Meta可穿戴AI设备Muse Charm定价300美元
观点网讯:11月20日,据The Information,Meta Platforms计划将旗下可穿戴AI设备MuseCharm定价300美元,并附带最高一年的Verizon免费5G网络服务。 Meta已…

2026-11-20

江苏大学战队构建可信可控安全运营智能体
近日,立足“企业出题、青年破题”的科创导向,江苏大学Ph0enix Rising战队围绕网络安全产业真实痛点,攻关AI大模型安全运营关键技术,成功研发可信可控的安全运营智能体体系,助力网络安全行业智能化升级。…

2026-11-20

马斯克预计擎天柱18个月内可做家务并迎真实演示
IT之家注意到,马斯克特意强调“真实”二字,显然是希望外界不要将这次演示理解为一场经过精心设计的表演。截至 11 月 18日,该建筑主体结构的组装进度约为 65%,预计将在 2026 年底前完成厂房主体封…

2026-11-20

GPT-Live-1.1开放开发者接入,语音智能体能力提升
据OpenAI介绍,GPT-Live-1.1自10月15日起已应用于ChatGPTPlus和Pro用户的语音功能,此次开放意味着第三方开发者也可以利用该模型构建语音应用。 对于开发者而言,这意味着语音AI…

2026-11-20

谷歌研究:AI智能体优化运行框架后任务成功率明显提升
研究显示,在一项软件工程测试中,采用模块化修改与验证机制的AI智能体,任务成功率从5.0%提升至40.0%,同时大幅降低了相比整体重写方案的Token消耗。 为解决这一问题,研究人员提出了一种可自我改进的Ha…

2026-11-20

dots智能助理启动小范围Plus用户测试
有别于传统一问一答方式,dots 拥有自己的云电脑,可以使用你连接的应用开展研究、制作成果,并根据你的反馈逐渐适应工作偏好。新体验将首先面向已拥有 dots,或具备创建 dot 资格的 ChatGPT P…

2026-11-20