ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

智谱联合清华等提出ZCube组网架构:大模型推理吞吐提升15%,网络成本削减三分之一

时间:2026-05-21 20:09:58来源:CHINAZ编辑:快讯

大模型推理正在重新定义AI基础设施,网络架构创新成为释放硬件潜能的关键路径。2025年9月,智谱、驭驯网络与清华大学在网络领域顶级会议ACM SIGCOMM2025上发表了关于ZCube网络架构的研究成果。

2026年5月21日,智谱宣布该架构已在GLM-5.1coding生产环境中成功落地,实现了跨越式的性能调优。基准测试表明,在GPU、软件栈及应用保持不变的前提下,ZCube架构使交换机与光模块的资本支出减少33%,GPU平均推理吞吐提升15%,首Token时延(TTFT P99)降低40.6%,实现了兼顾高经济性与高性能的系统级突破。

当前,随着长上下文推理与Prefill-Decode(PD)分离部署成为行业主流,KV Cache的跨节点传输呈现出高度的不对称性。传统基于多层交换机堆叠的ROFT(Rail-Optimized Fat-Tree)架构因静态拓扑限制,极易引发局部热点与PFC反压,形成“总带宽宽裕、局部频繁拥塞”的结构性瓶颈。

针对这一痛点,ZCube架构打破了传统Clos架构的层次化堆叠思路,取消了Spine层交换机,采用完全扁平化的两组交换机进行二部图互联,并结合双端口网卡的单/多轨混合接入机制。配合特有的路由策略,ZCube能确保任意GPU对之间拥有独享的最优路径,从结构层面完美实现流量负载均衡,可支持数万张乃至数十万张GPU的超大规模扩展。

在生产环境改造中,驭驯网络团队利用自动化控制与校验工具,成功克服了布线和路由策略重构的挑战,保障了集群的快速平稳升级。目前该千卡集群已稳定运行两周以上。ZCube的成功落地标志着智算基础设施正从通用互联走向模型流量驱动的系统协同。未来,网络拓扑、通信库与调度策略的深度耦合,将成为进一步提升Token生产效率与降低MaaS综合成本的核心驱动力。

更多热门内容
内蒙古重点实验室创新突破:新型耐高温光热电材料破解高温探测瓶颈
团队创新性地将CaTiO3钙钛矿氧化物开发为高性能光热电材料,揭示光吸收、光热转换和热电转换的耦合机理,形成一种新型耐高温光热电材料,有望破解常规探测器无法在高温环境中使用的瓶颈。该实验室重组以来,聚焦特殊功…

2026-06-26

中国电信发布网优任务大模型白皮书 核心业务场景实践成果显著
6月25日,在主题为《升级智能化网络,打造可保障连接,共筑Token优质体验高峰》的MWC论坛上,中国电信(601728.SH)集团云网运营部副总经理贾炎在大会发言中宣布,。 此前,中国电信联合华为发布…

2026-06-26

广西移动携手广西大学 共建垂类大模型基地与AI联合实验室 赋能产业升级
两大训练基地由广西移动与广西大学联合共建,紧密对标方案中“人工智能+钢铁与有色金属”“人工智能+特色农业”两大重点行动,聚焦国家所需、广西所能、东盟所盼,坚持“北上广研发+广西集成+东盟应用”的发展路径,旨在…

2026-06-26

启明创投胡奇开放麦:十年AI逐梦路,从算法到投资见证行业变迁
直到这几年AI火了,我去年回家跟我妈聊,我说:“你看现在AI这么热,几千亿、上万亿市值的公司都有。”当时我问GPT-3一个很有趣的问题,不同于以往NLP模型,GPT-3在我没有做模型训练和微调的前提下,理解…

2026-06-26

物理AI与具身智能来袭,从虚拟走向现实,职场人如何抢占新赛道?
大语言模型(LLM)的战争已经进入下半场,而科技巨头们早已把目光瞄准了更具颠覆性的赛道——物理AI(PhysicalAI)与具身智能(Embodied AI)。 对于普通人而言,学会做那个“给机器人下发指…

2026-06-26

人形机器人商业化加速,国产六维力传感器产能技术双突破破局“卡脖子”
面对“是否会成为下一个被卡脖子的环节”这一行业灵魂拷问,以宇立仪器为代表的国产厂商,正用一场产能与技术的“双线突围战”给出答案。 当未来的机器人回顾自己的“进化史”时,2025至2026年的这场产能与技术双重…

2026-06-26

激光焊接机器人工作站选型指南:10大主流品牌核心技术参数大比拼
作为智能激光装备领域的头部品牌,骐麟激光不仅在手持焊与鱼鳞焊领域构筑了坚实的技术壁垒,更凭借深厚的工艺积淀,打造了覆盖轻量化、重载型及复合多功能的三大系列机器人焊接核心产品矩阵,全线搭载全闭环智能控制系统与…

2026-06-26