ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

英伟达GB200 NVL72性能碾压AMD MI355X,成本优势显著成云计算新宠

时间:2026-01-02 17:24:55来源:互联网编辑:快讯

在AI算力竞争日益激烈的当下,英伟达与AMD在混合专家模型(MoE)领域的性能对决有了新进展。第三方机构Signal65发布的SemiAnalysis InferenceMAX基准测试报告显示,在Deepseek-R1 0528模型的推理场景中,英伟达Blackwell GB200 NVL72机架系统展现出压倒性优势,其单GPU吞吐量达到75 tokens/秒,性能指标是AMD Instinct MI355X的28倍。

混合专家模型作为新一代AI架构的典型代表,通过动态分配任务给特定"专家"模块实现高效计算。这种设计虽能避免传统模型全量参与计算的资源浪费,但当模型规模扩展至千亿参数级别时,跨节点通信延迟和带宽瓶颈成为制约性能的关键因素。Deepseek-R1 0528作为基准测试常用模型,其推理场景恰好暴露了这类架构的典型挑战。

英伟达的解决方案聚焦于系统级协同优化。GB200 NVL72机架通过72颗芯片的紧密互联架构,构建起30TB容量的高速共享内存池,这种"极致协同设计"使全对全通信效率提升数个量级。测试数据显示,在相同集群规模下,该系统不仅吞吐量领先,更将数据传输延迟控制在行业领先水平,有效破解了MoE架构的扩展性难题。

成本效益分析进一步凸显英伟达方案的优势。基于Oracle云定价数据的测算表明,GB200 NVL72机架在保持性能领先的同时,单token处理成本仅为AMD方案的十五分之一。这种性能与成本的双重优势,使其成为超大规模云计算厂商的优先选择,特别是在需要处理海量交互请求的场景中,其经济价值尤为显著。

尽管在MoE领域暂时落后,AMD并未完全失去竞争力。其Instinct MI355X搭载的高容量HBM3e内存,在处理稠密模型时仍具备独特优势。这类模型对内存带宽和容量的要求与MoE架构截然不同,使得AMD方案在特定场景中保持竞争力。不过目前AMD尚未推出能与NVL72直接对抗的机架级解决方案,这在一定程度上限制了其市场拓展空间。

行业观察家指出,随着AMD Helios平台与英伟达Vera Rubin平台相继进入部署阶段,机架级算力竞争将进入新阶段。这两个平台分别代表了两家公司在系统架构设计上的最新思考,其性能表现可能重新定义AI基础设施的标准。特别是在处理万亿参数级模型时,通信效率、内存带宽和能耗控制的综合表现,将成为决定胜负的关键因素。

更多热门内容
时隔399天木星冲日闪耀夜空,观测良机不容错过
10日晚,在北京丰台拍摄的明亮木星。 10日晚,在北京丰台拍摄的明亮木星。 在丰台区,天文爱好者王俊峰冒着严寒用手机拍下了木星闪耀夜空的画面。 汉玲是一位行星拍摄爱好者,本次木星冲日,他在广东中山进行了观测…

2026-01-13

20天天地接力!神舟飞船应急“改签”背后的惊心动魄与航天担当
从发现一道细微裂纹,到一艘应急飞船迅即升空并与中国空间站成功交会对接,仅用20天——我国载人航天工程首次应急发射任务,注定要镌刻在中国航天史上。酒泉卫星发射中心贺鹏举说,发射场全体人员顶住生理和心理的极限…

2026-01-13

华为坤灵搭乘京沪高铁启程 以智能方案助力中小企业驶向未来
华为中国政企分销销售部部长王猛表示,中小企业是实体经济的活力源泉,华为坤灵依托华为强大的技术积淀与生态优势,打造“4+10+N”中小企业智能化方案及多款爆款产品,致力于为中小企业提供稳定、安全、高效的场景化…

2026-01-13

vivo Y500i 1月16日开售,7200mAh大电池+骁龙4 Gen2,千元机续航新选择
快科技1月12日消息,今日,vivo宣布,vivo Y500i将于1月16日正式开售,这是vivo 2026年首款新机。 据了解,vivoY500i主打长续航体验,官方称其长续航巨能扛,同档领先。 此前,v…

2026-01-12

vivo Y500i新机1月16日开售:7200mAh大电池+抗摔防水,配置亮点多
IT之家 1 月 12 日消息,今天上午,vivo 官微发文宣布:新机 vivo Y500i 将于 1 月 16 日正式开售,新机主打“长续航+ 巨能扛”,号称同档领先。 IT之家注意到,vivo 官方在今…

2026-01-12

三星Galaxy A07 5G缅甸发布:6000mAh大电池+6年系统更新 入门新选择
IT之家 1 月 12 日消息,三星现已在缅甸市场推出 Galaxy A07 5G 智能手机,主打入门级市场,带有 6 次 Android大版本更新和持续的安全更新。 IT之家了解到,这款手机搭载 6.7 …

2026-01-12