ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

CXL内存池助力Microsoft Azure节省数亿美元DRAM硬件开销

时间:2022-07-14 09:08:47来源:cnBeta编辑:星辉

微软、Google、亚马逊等云计算巨头,都在以各种“实例”(Instance)和按需付费的方式,向广大客户提供其云端硬件资源。不过通常情况下,这些实例都会受到特定的 CPU 和内存配置的约束 —— 意味着客户智能从预设的几个选项中进行挑选、而无法进一步细分配置。

2.jpg

(图 via SemiAnalisis)

比如每多一个虚拟的 CPU 核心,就会往上添加 2GB 的内存。且在实例开启的过程中,预先分配的 CPU 与内存资源也被单个客户锁定,而无法在全局环境中动态调节。

长期以来,超大规模企业一直在努力思考如何缓和这方面的资源浪费 —— 毕竟许多示例没有充分利用其 DRAM,导致整个数据中心的使用效率低下。

以 Microsoft Azure 为例,其测量结果表明 —— 近半虚拟机从未使用超过 50% 的预分配内存资源,这样的浪费是相当惊人的。

随着 CPU 资源的触顶,剩余的内存资源无法物尽其用,微软将这种状态称作内存搁浅(Memory Stranding)。

更让人感到震惊的是,多达 25% 的 DRAM 在任何特定时刻都可能被搁置。

3.jpg

为了大幅改善这种情况,Microsoft Azure 想到了所谓的“内存池”(Memory Pooling)概念。

旨在允许 CPU 访问其所需的尽可能多的内存、而不占用或搁置不需要那么多 DRAM 资源的虚拟机。

好消息是,全新的 CXL 缓存一致性协议,已经得到了各大主流硬件提供商的产品支持。

通过采用 CXL 硬件,微软等数据中心运营商有望大幅降低其 DRAM 成本。

假如最终得到 9~10% 的整体 DRAM 优化,大型云服务器提供商可轻松介绍数亿美元的内存硬件开销。

此外微软估计,使用 CXL 和内存池技术,将使数据中心的服务器成本降低 4-5% —— 毕竟仅 DRAM 组件就占比超过了 50% 。

4.jpg

性能方面,Microsoft Azure 团队对一些使用本地 DRAM / 内存池的配置进行了基准测试,不过性能损失 / 最佳效果还是取决于具体的应用程序。

一方面,Memory Pooling 会导致额外的 67-87 ns 延迟,导致某些应用程序的速度变得更慢。

另一方面,20% 左右的应用程序并未受到内存池的性能拖累,但有 23% 的应用程序性能损失不到 5% 。

此外 25% 的应用程序减速超 20%,12% 的应用程序减速超 30% 。

需要指出的是,这只是微软在首批 CXL 硬件上展开的早期测试。展望下一代硬件和新的 CXL 协议规范,Memory Pooling 还有望带来更好的体验。


更多热门内容
AI焕视,E飞冲天!飞利浦显示器2025年渠道合作伙伴大会在泉州成功举办
2025年4月10日,中国显示器市场外资第一品牌飞利浦显示器,携全国终端渠道合作伙伴在福建泉州,隆重举办了以“AI焕视,E飞冲天”为主题的2025年渠道合作伙伴会议。2025年飞利浦显示器渠道大会隆重召开冠捷科技总裁宣建生博士通过视讯会议的方式参会并做重要讲话。冠捷科技资

2025-04-15

高端轻薄质感,专业性能轻薄本ROG幻16 Air 2025搭载RTX™ 5080登场
备受内容创作者关注,由NVIDIA® GeForce RTX™ 5080笔记本电脑GPU驱动澎湃性能的专业性能轻薄本,ROG幻16 Air 2025现已正式开售。GeForce RTX™ 50系列笔记本电脑GPU搭载NVIDIA Blackwell架构,为游戏玩家和创作者带来全新玩法。RTX™ 50系列具备强大的AI算力,RTX™ 5

2025-04-11

引领开放式聆听!Shokz韶音登顶全球运动耳机销量第一
近期,根据洛图科技《中国耳机耳麦零售市场月度追踪》报告数据显示,2024年,中国耳机耳麦市场的全渠道销量为2.18亿副,同比增长7.6%;销额为428亿元,同比增长9.8%。这已经是中国耳机耳麦市场连续第五年保持增长的态势。而在中国耳机耳麦传统主流电商500元以上高端市场

2025-04-11