ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

OpenAI公开反蒸馏机制 每周处置数千至数万账号

时间:2026-11-21 10:27:08来源:互联网编辑:快讯

OpenAI今天凌晨发布了一份名为《打击对抗性蒸馏》的报告,回应外界关注的账号封禁与模型防抄袭问题。

报告称,自今年夏季以来,平台针对利用账号矩阵和分布式请求批量提取模型能力的协同行为,持续展开清理。部分账号网络被整体处置,每周封禁规模从数千到数万不等。

OpenAI把这类行为描述为对抗性蒸馏:攻击者试图用大量请求拼凑模型的底层逻辑,从而绕开正规授权,低成本复制模型能力。

在OpenAI看来,蒸馏不只是侵权问题,还可能带来安全风险。被复制的能力若脱离原有安全防护,可能被用于生成恶意代码或危险配方等场景。

为减少此类提取,OpenAI将防线分成多个层面。模型训练阶段引入对抗训练,让系统分辨正常提问与试图套取推理过程的请求,并拒绝给出内部思维链。

输出分类器也被用于拦截隐蔽泄露。有些模型会把推理片段藏在工具调用参数中,分类器会检查这些位置,避免敏感过程绕过最终答案流出。

API层面的限制更直接影响开发者。GPT-6.2 Astra与GPT-6.2 Sol把推理过程与对话历史绑定,一旦修改前序提示词,后续推理内容会失效,反复调整上下文来套取内容的做法难以继续。

跨模型和跨会话隔离则堵住旧漏洞。防护较弱的老模型不能读取新模型的推理记录,此前通过加密思维链转移和诱导复述的攻击路径也已被封堵。

OpenAI用6个AI攻击模型进行测试。报告给出的数据显示,在模拟生产环境中,针对上一轮对话受保护推理的攻击,旧防线下的GPT-6 Astra平均成功率为54.0%,更新后的GPT-6.2 Astra降至0.2%;针对本轮对话推理的攻击成功率也从22.9%降到0.9%。

目前,GPT-6.2 Sol已上线这套防护,GPT-6 Astra也在修补。OpenAI表示,会把发现的攻击手法转为回归测试,并计划把相关经验分享给行业伙伴。

报告末尾,OpenAI表态支持美国《芯片安全法案》《人工智能监管法案》和《MATCH法案》,希望通过硬件出口管制限制对手获得前沿芯片。对于美方以安全为由推进技术封锁、泛化国家安全概念的做法,中国一贯主张开放合作,反对人为设置产业壁垒。

更多热门内容
苹果推进自研AI Agent 计划最早2027年底推出
此前,苹果官网11月16日发布的公告称,该公司将在macOS 27.3 beta 2中调整设备控制与数据访问以及完整磁盘访问两类权限。 据彭博社11月20日报道,苹果还在一定程度上增加了第三方Agent控制…

2026-11-21

Anthropic研究员预计2027年底AI可比肩顶尖专家
IT之家 11 月 21 日消息,11 月 15 日在接受 Palisade Research 采访时,Anthropic 公司技术团队成员Tao Lin 预测到 2027 年年底,在编程、电影制作等几乎所…

2026-11-21

ChatGPT Plus可创建协作空间 支持多人共同编辑
该功能此前仅面向 Pro、Business 和 Enterprise 等付费方案用户提供,现在每月支付 20 美元(IT之家注:现汇率约合133.8 元人民币)的 Plus 用户也可以创建自己的空间,与其他…

2026-11-21

Claude宣称证明黎曼猜想 数学界启动核验
智东西11月21日报道,昨夜,Anthropic数学家莱文特·阿尔珀格(Levent Alpöge)在个人网站上发布声明,宣称自己与Claude合作,找到了黎曼猜想及其更强版本——广义黎曼猜想(GRH)的证…

2026-11-21