ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

Arm 的使命是助力应对AI无止尽的能源需求 为AI数据中心工作负载供电的挑战(与机遇)

时间:2024-04-25 13:34:56来源:互联网编辑:快讯团队

作者:Arm 首席执行官 Rene Haas

人工智能 (AI) 具有超越过去一个世纪所发生的所有变革性创新的潜力,它在医疗保健、生产力、教育等领域为社会带来的益处将超乎我们的想象。为了运行这些复杂的 AI 工作负载,全球数据中心所需的计算量需要以指数级规模进行扩展。然而,这种对计算无止尽的需求也揭示了一个严峻的挑战:数据中心需要庞大的电力来驱动AI这一突破性技术。

当今的数据中心已经消耗了大量的电力——全球每年需要 460 太瓦时 (TWh) 电力进行支持,这个数字等同于整个德国的用电量。而 AI 的兴起预计将在 2030 年把该数字提高三倍,意味着将超过印度这一世界上人口最多国家的总耗电量。

未来的 AI 模型将持续变得更大、更智能,在带动对更多计算能力的需求的同时,对电力的需求也会增加,从而成为良性循环的一部分。而找到降低这些大型数据中心电力需求的方法对于实现社会性突破和兑现 AI 的承诺至关重要。

换言之,没有电力就无法实现 AI,企业需要重新思考如何应对能效问题的方方面面。

重新构思 AI 的未来——一个由 Arm 平台驱动的未来

Arm 最初的产品就是为使用电池的设备而设计的,并推动了移动电话的变革。因此,深植于 Arm 的能效 DNA能使业界重新思考应如何构建芯片来满足 AI 日益增长的需求。

在典型的服务器机架中,仅计算芯片就可以消耗超过 50% 的电力预算。工程团队正在寻找各种可以降低该数字的方法,每一瓦特的减少都至关重要。

正因为此,全球最大的 AI 头部云服务提供商们转而采用 Arm 技术来降低功耗。与同行业中的其他产品相比,Arm 最新的 Arm Neoverse CPU 是面向云数据中心,性能最高、最节能的处理器。Neoverse 为头部云服务提供商提供了定制芯片的灵活性,以优化其苛刻的工作负载,同时提供领先的性能和能效。每一瓦特的节省都可以用来实现更多的计算。这也正是为什么亚马逊云服务 (AWS)、微软、Google 和甲骨文 (Oracle) 现在都通过 Neoverse 技术,处理其通用计算和基于 CPU 的 AI 推理和训练。Neoverse 平台正在成为云数据中心领域的事实标准。

从近期的行业内的发布来看:

· 基于 Arm 架构 AWS Graviton与其他同行业产品相比,Amazon Sagemaker 的AI 推理性能提高了25%,Web 应用程序提高了30%,数据库提高了40%,效率则提升了60%。

· 基于 Arm 架构的 Google Cloud Axion:与传统架构相比,其性能和能效分别提高了 50% 和 60%,可为基于 CPU 的 AI 推理和训练、YouTube、Google 地球等服务提供支持。

· 基于 Arm 架构的 Microsoft Azure Cobalt性能高出同类产品 40%,并为 Microsoft Teams 等服务提供支持,与 Maia 加速器的耦合驱动 Azure 的端到端 AI 架构。

· Oracle Cloud 采用基于 Arm 架构的 Ampere Altra Max:与传统同类产品相比,每机架服务器的性能提高 2.5 倍,能耗降低 2.8 倍,并用于生成式 AI 推理模型,诸如摘要、大语言模型训练的数据的标记化,以及批量推理用例。

显然,Neoverse 极大地提升了云端通用计算的性能和能效。此外,合作伙伴也发现在加速计算方面,Neoverse 也能带来同样的益处。大规模 AI 训练需要独特的加速计算架构,例如,NVIDIA Grace Blackwell 平台 (GB200) 结合了 NVIDIA 的 Blackwell GPU 架构与基于 Arm 架构的 Grace CPU。这种基于 Arm 技术的计算架构可实现系统级设计优化,与面向大语言模型的 NVIDIA H100 GPU 相比,可带来 25 倍的能耗降低,并将每个 GPU 的性能提高 30 倍。这些优化能够带来颠覆性的性能和节能效果,而这一切都得益于 Neoverse 所带来的前所未有的芯片定制灵活性。

随着基于Arm 架构的部署持续扩大,这些企业将可以节省高达 15% 的数据中心总能耗。这些巨幅的节省可以用来在相同的功率范围内驱动额外的 AI 运算,而不会增加能源负担。换言之,这些节能相当于可以额外运行 20 亿次 ChatGPT 查询,驱动四分之一的日常网络搜索流量,为 20% 的美国家庭提供照明,或为与哥斯达黎加面积相仿的国家进行供电。这对改善能源消耗和环境可持续性产生了惊人的影响。

Arm CPU 正在从根本上推动 AI 变革,并造福地球。Arm 架构是未来AI 计算的基石。

更多热门内容
2025最强折叠手机是哪一款?这款轻薄旗舰遥遥领先
如果说2024年是折叠屏技术的成熟年,那2025就是折叠屏旗舰全面比拼“硬实力”的时代。而在众多新品中,哪一款才配得上“2025最强折叠手机”的称号?答案已经非常明确:荣耀Magic V5凭借全球最薄的机身设计、超大电池续航以及全面均衡的性能表现,稳居行业之巅。2025最强

2025-07-21

三伏克星,智慧恒护!A.O.史密斯“数字真五恒系统”打造清凉无敏堡垒
告别闷热黏腻,远离空调病!三伏天的热浪滚滚而来,高温高湿不仅让人汗流浃背、心烦气躁,更易诱发空调病,甚至加重尘螨、霉菌滋生带来的过敏困扰。紧闭门窗躲清凉?空气沉闷、病菌滋生反而更伤身。如何在酷暑中,为家人筑起一道清凉、洁净、恒久舒适的暑期防线?A.O.史密

2025-07-21

维谛Vertiv收购定制化机柜解决方案制造商
维谛宣布收购定制化机柜解决方案制造商,此次收购将巩固维谛在高密一体化基础设施解决方案的领导地位。作为全球领先的关键数字基础设施及连续性解决方案提供商,维谛(Vertiv,NYSE:VRT)于2025年7月17日宣布,其已达成协议以2亿美元收购Great Lakes Data RacksCabinets

2025-07-21

迎14周年,春雨医生开启“线上直播感恩月”
2025年7月19日,中国移动互联网医疗的开创者春雨医生,迎来了14周岁的生日。14岁的春雨医生,已近成年。巧合的是:春雨医生在诞生之初,恰好迎来了移动互联网时代的发展,并乘势开创了在线问诊、空中诊所、开放平台等如今移动医疗行业的“标配”服务;而14年后的今年,随

2025-07-21

福昕软件"数智枫桥·数治北京"解决方案获评全国智慧检务创新案例
近日,由法制日报社主办的2025政法智能化建设案例及论文征集宣传活动评选结果揭晓。本次共评出智慧治理、智慧法院、智慧检务、智慧警务、智慧司法典型案例各10个、创新案例各20个、创新论文各30篇。福昕软件联合北京市人民检察院研发的“数智枫桥·数治北京”解决方案,

2025-07-21

从700万到800万台仅2个月,九号智能两轮电动车为何能领跑行业?
九号公司最近真的是喜事连连,最近九号公司生产的第800万台九号电动两轮车正式发车,而距离700万台发车仅仅过去了2个月的时间,毫无疑问九号电动车的增长势能领跑整个行业。在此期间,九号公司也正参展第三届链博会,并在“数字科技链条”展区展出多款重磅新品及核心零

2025-07-21

强势通过欧盟能效测试 三星Galaxy Z Flip7|Z Flip7 FE耐用性太出色
随着智能手机市场趋于饱和,消费者的换机周期越来越长。在TechInsights发布的调研报告显示,消费者的换机周期已经从此前的18个月增至51个月。因此,消费者在选择机型时,更加注重其使用寿命。近日,据外媒报道,三星全新推出的Galaxy Z Flip7和Galaxy Z Flip7 FE在续航

2025-07-21

TCL科技以绿色产业链筑牢化学品安全防线,强化绿色制造与合规运营
化学品安全是工业生产中保障人类健康、生态环境与产业可持续发展的重要环节。为确保生产运营合规稳定,TCL科技旗下生产型子公司设立专责部门,负责化学品全流程风险识别与管控,严格执行有害物质管理要求,确保产品在生产、运输、使用、处置等各环节中的安全性。全流程

2025-07-21

扬帆起航,争做行业“小龙” ——2025“直通乌镇”全球互联网大赛火热报名中
自2014年世界互联网大会乌镇峰会启幕以来,这一国际盛会已走入新的十年。“直通乌镇”全球互联网大赛作为乌镇峰会的亮点活动,历经六年深耕,已成为全球互联网领域的重要赛事之一。2025“直通乌镇”全球互联网大赛已全面开放报名,诚邀全球互联网领域项目踊跃参赛,在全

2025-07-21

从尖端技术到无障碍关怀:vivo携多项创新成果亮相联通合作伙伴大会
2025年7月18日,中国联通合作伙伴大会于上海盛大启幕,本次大会以“向实同行 共融新生态”为主题,汇聚全球伙伴共谋智能时代新机遇。vivo作为中国联通核心战略合作伙伴及创新领军企业,以“智领未来,共融新生态”为主题,全面展示其在6G技术、AI个人化智能、无障碍科技

2025-07-21