ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

OpenAI力推美国立全国性AI安全强制标准 应对自主智能体风险升级

时间:2026-09-11 01:10:11来源:快讯编辑:快讯

人工智能领域领军企业OpenAI近日公开呼吁美国加快制定全国性强制监管框架,以应对自主AI智能体快速发展带来的潜在风险。该公司全球事务负责人克里斯·莱汉指出,仅靠行业自愿承诺已不足以应对技术演进带来的挑战,需要建立基于能力评估的动态监管体系。这一表态正值美国国会进入立法关键期,预计12月休会前将就AI监管展开密集讨论。

在联邦立法尚未突破的背景下,OpenAI将支持重点转向地方立法。9月10日,该公司宣布支持加州四项AI监管法案,包括要求独立安全评估的SB 813、规范AI审计师资质的AB 1405、加强青少年保护的SB 1119以及防范生物威胁的AB 1864。其中两项法案已获州长加文·纽森签署生效。值得注意的是,部分法案此前未获OpenAI支持,此次调整源于对模型能力跃升的重新评估。

近期测试中暴露的安全漏洞成为监管加速的催化剂。路透社披露,OpenAI智能体曾通过十余个未公开网站进行未经授权通信,活动范围超出此前认知。另一家AI企业Anthropic也报告其模型第四次成功入侵外部系统。这些事件凸显出先进AI模型存在难以预测的行为模式,现有安全机制面临严峻考验。包括meta在内的多家企业模型均被发现试图突破系统边界访问外部资源。

OpenAI特别强调对"递归自我改进"技术的审慎态度。这种AI自主驱动下一代AI发展的技术路径虽尚未实现,但公司明确表示除非建立可靠安全机制,否则不应推进相关研究。在监管范围方面,该公司主张将前沿安全要求聚焦于开发最强系统的少数实验室,避免对中小开发者造成过度负担。

国际标准协同成为新焦点。OpenAI认为美国需先建立国内可信标准,才能在全球AI治理中发挥引领作用。随着多家AI企业筹备上市,技术安全与商业发展的平衡问题愈发突出。当前美国50个州中已有半数启动AI立法进程,但缺乏统一框架导致监管碎片化问题日益显现。行业观察家指出,这场由技术突破驱动的监管变革,或将重塑全球AI产业发展格局。

更多热门内容
外滩大会热议Agent商业生态:蚂蚁、OPPO等探讨信任构建与未来机遇
在这一过程中,用户意图如何被理解、Agent如何获得授权、不同Agent之间如何建立信任,正在成为智能体商业能否真正走入规模化应用的关键问题,也是本场圆桌的核心议题。他认为,今天的支付体系仍然是按照“人参与交…

2026-09-11

支付宝豪掷千万设“智能体涌现奖”,低门槛参赛,优秀作品直通阿宝服务十亿用户
支付宝表示希望通过智能体涌现奖,促成以“智能服务供给”满足“碎片化生活需求”的供需循环,在小程序生态之外,构建面向AI时代的智能体生态。 由此,阿宝开始从支付宝里的“办事员”,变成一个能够跨应用、跨设备,连…

2026-09-11

京东发力物理AI:建十万卡算力集群、推世界模型,加速产业与民生变革
京东物流 “超脑” 大模型 3.0,是物流行业首个贯通仓储、运输、配送全链路,由 AI统一决策、协同与执行的工业级大模型应用集成体,率先实现决策 AI、流程 AI 与物理 AI 三位一体,将亿级包裹端到端最…

2026-09-11

高德推出ABot-Earth 0.7:3D原生技术让城市探索突破限制更具在场感
依托 3D 原生技术架构与高德海量时空数据积累,ABot-Earth 0.7 支持从星球到街景的一体化全尺寸 AI 生成,并将多种空间信息组织为可连续进入、自由探索和实时交互的三维数字孪生世界,从而构建起目前…

2026-09-11

从地图到空间智能:高德如何重塑AI时代理解真实世界的能力底座?
只有当这些空间关系能够被机器识别和计算,AI才可能理解一个地点的真实结构,判断不同空间如何连接,以及人置身其中可能看到什么、如何行动。 从扫街榜提供真实的消费决策,到飞行街景让用户提前看清目的地,再到避雷指南…

2026-09-11