ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

奥特曼谈AI安全与创新平衡 呼吁行业统一标准

时间:2026-11-20 15:37:16来源:快讯编辑:快讯

11月19日,据《纽约时报》报道,OpenAI首席执行官山姆·奥特曼与总裁格雷格·布罗克曼在美国当地时间11月18日周三举行的DealBook峰会上,围绕人工智能发展与安全分享观点。他们表示,推进AI技术时风险很难彻底消除,企业也无法让所有群体都满意。

奥特曼指出,若只追求快速迭代突破,社会会担忧人工智能失控;若安全约束过紧,又可能限制技术和产品前进。他强调需要在安全与创新之间找到平衡。

布罗克曼表示,模型能力持续提升后,安全保障以及让人工智能与人类意图对齐,是行业必须面对的重要议题。这不只是某一家公司的调整,而是整个人工智能行业正在经历的理念和文化变化。

在具体行动上,OpenAI已与多家人工智能企业签署自愿性协议,落实风险评估要求,并主动对接第三方评估机构。近期,该企业还引入METR、Apollo Research等独立安全研究人员,开展模型安全评估。

奥特曼提到,当前行业竞争激烈,可能对人工智能安全建设造成不利影响。各企业只能了解自身安全规范,难以充分掌握同业研发动态,这种信息不充分的竞赛容易导致安全投入不足。他呼吁行业共同建立统一安全标准,提升发展透明度。

对于超级智能、人工智能逐步接管决策权等论调,奥特曼明确反对,强调人类应掌握发展的主导权,不能把决策权交给人工智能。布罗克曼也认为,人工智能能力越强,确保其符合人类发展目标、安全可控的责任越重大。

资本运作方面,奥特曼透露OpenAI仍有上市计划。此前,该企业出于优先处理安全相关问题,已将首次公开募股计划推迟至明年。本月,该企业完成110亿美元融资,估值达到1.25万亿美元。

更多热门内容
谷歌发布Gemini 4 Neon模型 支持多智能体协作
在作业协作模式中,Gemini 4 Neon承担任务调度角色,调度Hydrogen子智能体并行开展多项工作,同步跟进长周期任务推进进度,重点适配大型代码库排错、海量数据分析等多步骤连续处理类工作。在默认hig…

2026-11-20

苹果推进自主AI智能体 计划代用户操控设备写代码
IT之家 11 月 20 日消息,彭博社马克 · 古尔曼(Mark Gurman)今日报道称,苹果正在开发自主 AI 智能体,计划让 AI 代替用户执行设备操控、应用操作、网页浏览和软件编程等任务,进一步进入…

2026-11-20

Gemini在Mac端增加电脑操控,可跨应用完成多步任务
IT之家 11 月 20 日消息,当地时间 11 月 19 日,谷歌宣布为 macOS 版 Gemini应用推出全新的“电脑操控”(Computer Use)功能,允许 AI 直接操作 Mac 上的桌面应用…

2026-11-20

OpenAI开放GPT-Live-1.1语音模型供开发者集成
据OpenAI介绍,GPT-Live-1.1自10月15日起已应用于ChatGPTPlus和Pro用户的语音功能,此次开放意味着第三方开发者也可以利用该模型构建语音应用。 对于开发者而言,这意味着语音AI…

2026-11-20

全球AI支出2027年预计破4万亿美元 基础设施占比最高
观点网讯:11月20日,Gartner发布预测,全球人工智能支出将在2027年突破4万亿美元关口,达到4.05万亿美元,同比增长47.5%。 这4.05万亿美元中,份额最大的是人工智能基础设施支出,接近2.…

2026-11-20

深圳APEC现场:机器人制作咖啡,AI合作成焦点
复旦大学发展研究院副教授、全球人工智能创新治理中心研究员江天骄在接受记者采访时表示,AI的发展伴随着新的挑战,而APEC通过提供开放技术、共享场景、共治风险,让普惠包容发展成为可能。在贸易领域,各经济体除了传…

2026-11-20

OpenAI小范围测试dots全天候助理 同步开放企业版
有别于传统一问一答方式,dots 拥有自己的云电脑,可以使用你连接的应用开展研究、制作成果,并根据你的反馈逐渐适应工作偏好。新体验将首先面向已拥有 dots,或具备创建 dot 资格的 ChatGPT P…

2026-11-20

苹果布局自主AI智能体,招聘信息透露设备端助手方向
前者意味着系统不只是被动响应指令,而是能够自行判断并推进任务;后者则延续了苹果对隐私的一贯强调,也是其试图与现有产品区分开的地方。 Meta的Muse被视作这一轮消费级智能体的突破性产品,其代订餐厅、预订旅行…

2026-11-20

院士陈学东谈具身智能产业:短板在数据,应用瞄向工业与家庭
“我们希望训练一个网络映射,从输入到输出”,陈学东解释,输入有可能就是一句话,让机器人帮我做某件事情,输出就会控制机器人,要告诉它,它该多大的电流电压、多快的速度和加速度。 谈到具身智能的应用场景,陈学东认…

2026-11-20

谷歌发布Gemini 4 Neon,补位编程智能体中端主力
在智能体赛道竞争持续白热化的当下,谷歌不再只依靠旗舰模型抢占上限,而是用一款性价比更强的中端主力产品切入开发者、安全团队与企业研发场景,直接和头部编程大模型正面竞争,也让代码智能体从Demo验证走向生产级落…

2026-11-20