ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

OpenAI借GPT-5.6 Sol优化推理链路,GPU利用效率提升且服务成本降20%

时间:2026-07-30 17:51:19来源:快讯编辑:快讯

OpenAI公司近日宣布,通过引入GPT-5.6 Sol模型对其旗舰AI模型系列进行优化,成功将端到端服务成本降低最高达20%。这一突破源于对模型推理链路的系统性改进,核心在于利用AI技术实现自我优化。

作为7月9日发布的最新力作,GPT-5.6系列在架构优化过程中展现出独特优势。研发团队通过部署GPT-5.6 Sol模型,构建了智能化的资源调度系统。该系统能够根据地理区域、硬件类型和实时负载动态分配计算任务,在集群层面综合考虑上下文长度、缓存状态等20余项参数,确保资源利用率最大化。

在底层优化层面,GPT-5.6 Sol展现出强大的代码生成能力。通过深度学习Triton和Gluon两种专用编程语言,该模型能够自主分析生产环境中的GPU内核代码,识别出可预计算、可并行化的计算模块。技术团队透露,优化后的内核代码在保持原有精度的前提下,使单个token的生成能耗降低18%。

针对推理过程中的计算瓶颈,OpenAI创新性地应用了推测性解码技术。该技术采用双模型架构:由轻量级草稿模型先行预测候选token,再交由主模型进行验证修正。经过GPT-5.6 Sol的专项优化,这种协作机制使token生成效率提升超过15%,特别在长文本处理场景中表现尤为突出。

为确保优化效果的可验证性,研发团队引入开源工具FpSan进行浮点运算校验。该工具能够精确检测GPU内核代码中的数值误差,将计算精度控制在10^-6量级。OpenAI公布的测试数据显示,经过三轮迭代优化后,模型推理阶段的资源浪费率从12%降至3%以下。

此次技术升级标志着AI模型开发进入自优化新阶段。通过让模型参与自身架构的优化过程,OpenAI不仅突破了传统手动调优的效率瓶颈,更为大规模AI部署提供了可复制的技术路径。据内部文档显示,相关优化方案已通过开源协议向学术界开放,预计将推动整个行业降低30%以上的推理成本。

更多热门内容
GPT-5.6自主优化生产内核:AI助力服务降本增效,开启自优化新篇章
它自主重写、优化了OpenAI线上那套底层代码,也就是真正负责跑模型的生产GPU内核。早在2月,GPT-5.3-Codex就被官方形容为「参与了自己的创造」;这一次,GPT-5.6 Sol又自主后训练了更…

2026-07-30

翁荔因健康离职Thinking Machines Lab后,时隔一年半光速回归OpenAI任要职
她表达的核心意思是,在OpenAI工作近七年后,已经学到很多、也完成了很多,希望离开去探索新的东西。 到了2026年7月,她又从TML离职,并明确解释,这次离开的主要原因是连续数月的健康问题,以及创业公司高强…

2026-07-30

比亚迪人形机器人8月亮相“迪空间” 具身智能研究团队已成立两年
7月28日消息,据财联社报道,比亚迪官方近期明确表示,人形机器人计划8月在“迪空间”亮相发布。据了解,今年5月,比亚迪执行副总裁李柯在投资者平台 “股东星球” 的专访中,首次公开正面回应人形机器人业务。他表…

2026-07-30

东阳光未来实验室科技(北京)成立,1亿资本布局AI与机器人领域
投资时间网、标点财经 天眼查App显示,近日,东阳光未来实验室科技(北京)有限公司成立,法定代表人为周林,注册资本1亿人民币,经营范围包括人工智能应用软件开发、智能机器人的研发、工业机器人制造、智能机器…

2026-07-30

MOVA TPEAK Open耳挂耳机:自适应设计贴合耳型,音质续航双在线
在充电方面,我爱音频网采用专业测试仪CHARGERLAB POWER-Z对MOVA TPEAK OpenAI耳挂耳机进行充电测试,测得该耳机充电盒的有线充电电压电流约为4.6V 0.25A,功率约为1.1…

2026-07-30

智能体AI时代机架成系统核心:异构架构下CPU角色重塑与价值凸显
Arm AGI CPU 专为适配这场行业变革设计,将 Arm 云基础设施技术路线延伸至新一代智能体 AI 系统,让 CPU在任务编排、内存协同、加速器管理与机架级能效优化中承担核心职责。 在智能体 AI …

2026-07-30

OpenAI借GPT-5.6 Sol优化推理链路,GPU利用效率提升且服务成本降20%
IT之家 7 月 30 日消息,OpenAI 公司昨日(7 月 29 日)发布博文,宣布通过 GPT-5.6 Sol 模型,来优化GPT-5.6 系列模型本身 AI 推理链路,端到端服务成本最多降低 20%…

2026-07-30

纳芯微推出国产首款霍尔双码道游标算法磁编码器NSM350x系列 助力高精度角度检测
NSM350x 系列采用差分霍尔检测架构,结合双码道游标磁环,实现单圈绝对值角度检测,同时集成了纳芯微在磁性角度编码器产品方向上多年积累的自校准算法,提供客户端简便的自校准功能,以消除由元器件失配、机械结构…

2026-07-30