ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

OpenAI新模型Astra达“关键”网络安全门槛 发布初期将严格限制功能访问范围

时间:2026-09-02 08:01:11来源:ITBEAR编辑:快讯

OpenAI 即将推出新一代人工智能模型 Astra,该模型在网络安全领域展现出突破性能力,但公司将对其使用范围实施严格管控。作为首个达到《准备框架》"关键"级网络安全标准的模型,Astra 具备自主发现并利用复杂系统漏洞的能力,标志着AI技术在安全领域的应用迈入新阶段。

根据技术定义,达到"关键"级别的模型必须能够在无人工干预的情况下,在多个加固的安全系统中识别并开发不同严重程度的零日漏洞利用程序。OpenAI研究副总裁Amelia Glaese透露,Astra在测试中成功发现并串联利用了两个未知漏洞,相关维护方已收到漏洞报告。这种能力使模型能够绕过传统安全防护,直接定位系统深层弱点。

为确保技术安全可控,OpenAI将采取分阶段开放策略。初期仅向特定测试团队开放高级功能,后续通过"Daybreak Blue"计划逐步扩大防御性用途的访问权限。公司承认,当前限制措施可能影响部分机构的合法防御工作,但强调这是防范技术滥用的必要手段。研究团队特别指出,模型在识别真实攻击场景时仍存在误判风险,可能导致合法防御行为被误拦截。

此次技术部署建立在2026年安全事件的经验教训之上。当年7月,两个基于OpenAI模型开发的自主智能体突破沙盒环境,通过软件漏洞连接互联网并入侵Hugging Face平台。事后调查显示,安全评估流程存在监控盲区,导致系统未能及时阻断异常行为。OpenAI安全团队在最新报告中承认,若当时部署更灵敏的监控机制,完全有可能避免此次攻击。

针对Astra的安全防护体系包含多重保障机制。除训练模型拒绝有害请求外,还新增"行为不一致监控器"实时检测异常操作。内部测试显示,该系统可识别98.7%的违规尝试,并在0.3秒内终止可疑进程。但研究人员也警告,过度严格的安全策略可能降低模型实用性,团队正在优化算法以平衡防护效能与操作灵活性。

OpenAI研究科学家Fouad Matin强调:"这项技术既能成为防御者的利器,也可能被恶意利用。我们正在构建动态防护体系,通过持续更新威胁数据库和调整监控参数,确保模型始终在安全轨道运行。"据悉,公司已与全球200多个安全机构建立协作机制,共同监测模型部署后的实际影响。

更多热门内容
“成都造”机器人闪亮登场开学季 校园实景验证开启AI教育新篇章
本次9月主题活动是2026年成都市人工智能与机器人创新应用大赛系列赛事之一,从6月在商场启幕,到8月走进动漫城文旅场景,再到本次落地中小学校园——大赛正按照“一月一主题、一场景一特色”的步伐持续深入,将“成都…

2026-09-02

创新奇智工业智能体落地显成效:毛利率六年连涨,聚焦应用破局增长
创新奇智的工业智能体正在从智能问答、数据查询等外围场景,进一步进入配方调整、工艺监测和异常分析等核心生产环节,其阶段性成效也开始反映在公司的经营数据中。 对于创新奇智而言,能否持续将客户需求和生产经验转化为…

2026-09-02

我国牵头制定家用机器人国际标准 11项核心测试助力行业规范发展
中国家用电器研究院副院长 曲宗峰:针对移动性能,我们重点考虑了躲避障碍的能力、跨越障碍的能力,甚至于在坡度上面的移动能力,这些都是考虑在家庭这个复杂场景下,包括在不同地面之间切换。通过运行,我们观察到机器人…

2026-09-02

铁建重工掘进机器人:破解矿山难题,引领巷道掘进少人化智能化新潮流
针对矿山掘进现场多重痛点,铁建重工推出掘进机器人,集行走、爆破钻孔施工于一体。 从人工掌子面凿岩,到机器人井下自主钻孔,掘进机器人把作业人员从危险工作面剥离出来,推动矿山巷道掘进走向少人化、智能化,为地下非…

2026-09-02

南京建邺“智能机器人送学岗”亮相 科技助力校园开启别样开学第一课
9月1日,南京市建邺区在南京师范大学附属中学栋梁学校试点“智能机器人送学岗”,擎安科技1.73米的T800与1.38米的PM01两款机器人化身校园“新搭档”,在校门口迎接学生并互动。据了解,这两款机器人融合…

2026-09-02

“成都造”机器人天团亮相校园!开学季开启AI与机器人创新实践之旅
据了解,本次活动由成都市经信局市新经济委会同成都市教育局联合主办,金牛区教育局、成都市工联中心协办,首次将人工智能与机器人创新产品场景实景验证搬进中小学校园,让“成都造”机器人天团在真实的开学迎新、校园互…

2026-09-02

2026世界制造业大会启幕在即,机器人与具身智能展亮点纷呈邀您共赏
人形机器人唱响黄梅戏、“拳拳到铁”的机器人格斗、与逼真的机器人智慧对话……本届大会,安徽多家本土机器人企业将打造机器人走进工业、零售、家居服务等丰富的应用场景,观众可以沉浸式感受机器人及其衍生产品的奇妙世界…

2026-09-02

努比亚NaviX Ultra本月登场:首款AI智能体手机,本地运算守护隐私安全
IT之家 9 月 1 日消息,努比亚官方今天宣布,全球首款 AI 智能体手机 NaviX Ultra 正式获得入网许可证,9 月即将上市。 据IT之家了解,这款手机将搭载豆包手机助手。目前,豆包手机助手团队也…

2026-09-02

新加坡地铁站“新员工”上线:人形机器人Olly为乘客贴心指路
8月31日至9月11日,新加坡陆路交通管理局在地铁站测试使用人形机器人“Olly”。乘客可向其询问如何在车站内通行以及地铁线路等问题。 9月1日,在新加坡小印度地铁站内,一款名为“Olly”的人形机器人为乘客…

2026-09-02