ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

奥特曼谈AI安全与创新平衡 呼吁行业建立统一标准

时间:2026-11-20 18:44:59来源:互联网编辑:快讯

11月19日有消息称,在美国当地时间11月18日周三举行的DealBook峰会上,OpenAI首席执行官山姆·奥特曼与公司总裁格雷格·布罗克曼就人工智能安全与创新议题发表观点。

奥特曼表示,AI发展过程中风险很难完全避免,企业也无法让所有群体都满意。如果单纯追求技术快速迭代,社会对AI失控的担心会上升;如果安全约束过度收紧,又可能拖慢技术和产品进步。

布罗克曼指出,随着模型能力持续增强,安全保障以及让人工智能与人类意图对齐,已经成为行业必须面对的重要课题。这不只是某一家企业的调整,而是整个人工智能行业正在发生的理念和文化转变。

在安全举措方面,OpenAI已与多家人工智能企业签署自愿性协议,落实风险评估要求,并主动对接第三方评估机构。近期,该公司引入METR、Apollo Research等机构独立安全研究人员,开展模型安全评估。

奥特曼认为,当前行业竞争激烈,会对人工智能安全建设造成不利影响。各家企业只能了解自身安全规范,难以充分掌握同业研发动态,这种信息不充分的竞赛容易导致安全投入不足。他呼吁行业共同建立统一安全标准,进一步提高发展透明度。

对于超级智能以及人工智能逐步接管决策权的论调,奥特曼明确表示反对,强调人类应当牢牢掌握发展主导权,不能将决策权交给人工智能。布罗克曼也表示,人工智能能力越强,确保其符合人类发展目标、实现安全可控的责任就越重大。

在资本运作方面,奥特曼透露OpenAI仍有上市规划。此前该公司出于优先处理安全相关问题的考虑,已将首次公开募股计划延后至明年。本月,OpenAI完成110亿美元融资,企业估值达到1.25万亿美元。

更多热门内容
OpenAI联创呼吁AI对齐走向全球公共科学
Meter于11月5日发布的报告则估计,Anthropic过去一年的AI研究进展速度提高了约一倍,但这一提速很可能主要来自人类研究员借助AI工具提高效率,而非完全自主的AI研发。 随着AI逐步参与自身研发,模…

2026-11-20

谷歌新模型Gemini 4 Neon可调度多个子智能体
在作业协作模式中,Gemini 4 Neon承担任务调度角色,调度Hydrogen子智能体并行开展多项工作,同步跟进长周期任务推进进度,重点适配大型代码库排错、海量数据分析等多步骤连续处理类工作。在默认hig…

2026-11-20

谷歌发布Neon模型,聚焦编程办公与科研多步骤任务
据谷歌介绍,Neon 支持 100 万 token上下文窗口,可综合处理电子表格、PDF、图表、音频和视频,将分散信息整理成报告等成果。在编程场景中,它能够跨文件排查错误、重构代码,也可在谷歌 Antig…

2026-11-20

马斯克预计Optimus一年半后可分担家务并进入家庭
IT之家注意到,马斯克特意强调“真实”二字,显然是希望外界不要将这次演示理解为一场经过精心设计的表演。截至 11 月 18日,该建筑主体结构的组装进度约为 65%,预计将在 2026 年底前完成厂房主体封…

2026-11-20

英伟达洽谈收购扩散式AI初创公司Inception
IT之家 11 月 20 日消息,科技媒体 The Information 今天(11 月 20 日)发布博文,报道称英伟达计划收购 AI初创公司 Inception,目前双方已深入谈判,交易估值至少超过 …

2026-11-20

阿里推出Qwen4-Max,2.4T参数模型强化智能体编程
Qwen4-Max现已上线千问AI平台对外提供API服务,缓存命中每百万Tokens低至0.5元,完成单任务的平均费用较上代模型大降6成;用户也可通过阿里Token Plan调用新模型,或在千问办公、Qod…

2026-11-20

谷歌研究:AI智能体模块化优化成功率升至40%
研究显示,在一项软件工程测试中,采用模块化修改与验证机制的AI智能体,任务成功率从5.0%提升至40.0%,同时大幅降低了相比整体重写方案的Token消耗。 为解决这一问题,研究人员提出了一种可自我改进的Ha…

2026-11-20

一目科技李智强:触觉基建与灵巧操作影响人形机器人落地节奏
三年前,一目科技管理团队提出,具身智能要真正落地,大脑会越来越成熟,而机器人与物理世界接触的触觉不可或缺,如今这一判断已经成为行业共识。团队仍判断,通用模型的能力会持续向具身侧延展,因此选择聚焦物理操作界面,…

2026-11-20