ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

商汤大装置TPW新标尺:算电协同开启AI基础设施效能提升新路径

时间:2026-08-15 06:00:45来源:互联网编辑:快讯

在Token经济蓬勃发展的当下,AI基础设施领域正面临一个关键挑战:如何在能源和成本有限的情况下,产出更多高质量的Token。随着Token消耗呈指数级增长,算力需求持续攀升,人工智能数据中心(AIDC)的用电量在全社会用电结构中的占比迅速上升。行业关注的焦点已从单纯追求算力规模,转向如何以更低成本、更高效率生产更多Token。

商汤大装置智算中心总经理林海指出,在Token经济时代,AIDC应被重新定义为连接电力与Token的价值平台。能否实现算力与电力的协同优化,将成为决定未来商业竞争力的核心要素。传统衡量数据中心能效的指标PUE(电源使用效率),已无法满足当前行业发展的需求。

长期以来,PUE作为数据中心总能耗与IT设备能耗的比值,被视为衡量能效的"黄金标准"。行业围绕PUE展开了一系列节能努力,包括优化机房气流组织、革新制冷系统架构、利用自然冷却和规模化部署液冷技术等。但随着AIDC服务模式从"卖卡时"转向"卖Token",评价效率的标准也需要相应更新。PUE只能反映电力使用情况,却无法衡量这些电力创造了多少有效价值。

当前产业分工下,电力投入与Token产出之间的数据链路存在断裂。从电网到IDC,再到算力平台和模型厂商,各环节各自为政,只优化自身指标,导致全局最优难以实现。林海举例说明,单纯调高送风温度可能降低制冷能耗,改善PUE数据,但会增加GPU和服务器风扇功耗,最终总用电量未必下降,Token产出成本反而可能上升。

为解决这一问题,商汤大装置提出了新的效率指标TPW(Tokens Per Watt),即单位电力成本产生的有效Token数量。这一指标不仅考虑了电力使用效率,还纳入了分时电价等因素,将关注点从"用了多少电"转向"这些电创造了多少价值"。TPW并非要取代PUE,而是在其基础上,建立了从电力投入到Token产出的全链路效率评价体系。

TPW的价值不仅在于提供了一个新的衡量标准,更重要的是它建立了一套统一的价值语言。电网、IDC、算力平台和模型厂商可以在同一标尺下进行优化,使算电协同成为可度量、可复制、可商业化的系统能力。这种转变将推动AI基础设施从单纯追求设备能效,转向优化整个算力系统的运行效率。

为实现这一目标,商汤大装置开发了算电协同Agent,这是一个能够感知、思考、决策和执行的智能调度系统。该系统通过八级数据穿透体系,打通了任务、算力资源与物理用电之间的映射关系,实现了每一度电与每一个算力任务的精准对应。这为后续的预测、调度和优化提供了统一的数据基础。

在实际操作中,系统首先对算力任务进行分级管理。在线推理等实时业务需要即时响应,而训练、评测等任务则具有更大的时间弹性。系统根据业务优先级和延迟容忍度,自动将可调度任务安排在低电价、低负荷时段运行,在保障服务质量的同时提高资源利用率。这种优化不减少总用电量,而是通过优化时序,让同样的电力容量产出更多有效Token。

系统还结合容量挖潜、储能调度和电网需求响应,实现算力与能源的动态协同。通过负荷预测、容量优化和储能削峰等手段,充分释放既有基础设施的资源潜力。商汤大装置智算中心运维总监张煦表示,实测数据显示,在既有供电条件下,IT有效承载能力可提升约60%,这一提升来自系统级协同,而非新增供电容量。

这套方法论已在商汤临港AIDC得到规模化验证。在今年上海市迎峰度夏电力需求响应中,该中心通过算电协同调度模式,午间常规用电负荷削减75%,可调负荷规模达23MW,两小时内向电网释放了4.6万度削峰电量。这表明AIDC的负荷弹性可以成为一种可运营、可调度的新型资产。

算电协同Agent已全面应用于商汤临港AIDC,实现了单位电力成本Token产出提升80%、平均电费单价低于同地区IDC约10%、算力负荷预测准确率达到96%的显著效果。该系统采用平台化、模块化设计,将运营经验沉淀为可复用的能力,并依托专家体系形成标准化交付流程,新场景最快一周即可完成部署上线。

对于国家算力枢纽节点、万卡级智算中心等大型AI基础设施,算电协同Agent能够统一调度算力、能源与储能资源,提升集群整体算效,优化绿电消纳和综合用能成本。对于算力运营商、AI云服务商和Token工厂,系统可结合电价预测、负载优化与算力调度,持续降低单位Token电力成本。企业级智算中心、科研机构和行业AI平台也可依托模块化架构,快速部署算电协同能力,构建智能、高效、绿色的运营体系。

更多热门内容
HUMAIN携手高通发布Horizon系列轻薄本,明年新品将搭载自有HUMAIN OS系统
IT之家 9 月 2 日消息,沙特阿拉伯主权财富基金 PIF 旗下人工智能企业 HUMAIN 当地时间昨日携手高通在 LEAP 2026大会上发布了 Horizon 与 Horizon Ultra 轻薄笔记…

2026-09-02

OpenAI新AI模型Astra将至,性能强大但网络安全功能使用范围受限
该公司曾在8月表示,由于发现Astra模型在网络安全任务方面具备很强的能力,因此暂停了部分内部开发工作,以便加入更严格的安全防护措施。OpenAI周二表示,尽管Astra并非参与Hugging Face入…

2026-09-02

OpenAI 即将推下一代 AI 模型 Astra,达“关键”门槛但功能访问受限
此外,OpenAI 还警告称,Astra的安全防护措施可能会错误地将合法的防御性网络安全活动标记为滥用行为,从而导致任务被减慢、暂停甚至终止(IT之家注:OpenAI 根据网络安全工作的性质分为“蓝队”防…

2026-09-02

厦门青风车网络货运平台源代码:适配场景解析与选型核心要素探讨
在物流行业数字化转型的背景下,网络货运平台源代码作为企业搭建自有货运系统的技术基础,其功能完整性与可扩展性成为选型时的核心关注点。行业合规性支持:网络货运平台需满足《网络平台道路货物运输经营管理暂行办法》等法…

2026-09-02