ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

OpenAI为两款模型加装防护,蒸馏攻击提取率明显降低

时间:2026-11-21 10:53:42来源:互联网编辑:快讯

11月20日,OpenAI对外说明,GPT-6.2 Astra和Sol模型的安全机制完成升级,目标是应对未经授权的对抗性蒸馏。这类做法会借助前沿模型的输出训练竞品,进而让高风险能力绕开原有安全限制向外扩散。

为降低被提取推理链的可能,OpenAI采取了多层防护。对抗性训练、输入与输出分类器、API会话隔离等手段被组合使用。测试覆盖6个攻击模型,历史请求的推理提取成功率由54.0%压缩到0.2%,当前请求的提取率则由22.9%降至0.9%。

OpenAI还提到,今年以来持续对违规蒸馏行为展开执法,每周会封禁数千到数万个相关账号。公司同时与行业伙伴共享攻击指标,以提升对这类风险的识别和拦截能力。

更多热门内容
AI 协作数学证明引关注 黎曼猜想结论仍待验证
阿尔波格还表示,他的证明不仅解决了黎曼猜想本身,还证明了范围远比原始猜想广泛的广义黎曼猜想。后者一旦得到证实,意味着整个数学世界蕴藏着无数尚未发现的深层规律,大量以广义黎曼猜想成立为前提的数学结论也将随之得…

2026-11-21

Claude宣称证明黎曼猜想,数学界验证尚需时日
数学家 Elliot Glazer 在初步检查后表示,阿尔珀格发布的 Lean 文件中形式化的数学命题“确实是广义黎曼猜想”。 《科学》杂志2026 年 10 月的一篇报道也指出,AI 生成的 Lean …

2026-11-21

苹果推进自研AI Agent 计划最早2027年底推出
此前,苹果官网11月16日发布的公告称,该公司将在macOS 27.3 beta 2中调整设备控制与数据访问以及完整磁盘访问两类权限。 据彭博社11月20日报道,苹果还在一定程度上增加了第三方Agent控制…

2026-11-21