大型数据中心运营商正面临内存持续短缺的严峻挑战，这迫使它们不得不采取一系列非常规措施来应对。谷歌作为行业领军者，近期在突破内存瓶颈方面动作频频，引发市场广泛关注。
谷歌供应链基础设施高级总监Nikhil Cherian透露，公司正同步推进软件和硬件解决方案的开发，甚至通过拆解退役服务器回收组件，构建内部回收供应链。这一举措旨在缓解内存供应紧张局面，确保数据中心稳定运行。
为充分利用现有资源，谷歌设计出特殊硬件适配器，使上一代DDR4内存能够适配新一代人工智能服务器。同时，公司还从海外进口退役服务器，专门拆解其中的DDR4模块进行再利用。Cherian坦言，人工智能行业已从计算资源受限转向内存资源受限，高性能内存成本占服务器物料清单的比例高达75%。
内存短缺的信号在市场中愈发明显。高盛最新报告预测，第三季度个人电脑DRAM价格将上涨18%至23%，服务器DRAM价格涨幅达13%至18%。Trendforce数据显示，8月现货市场上DDR4 8GB和DDR5 8GB价格分别升至142美元和133美元，DDR5相对DDR4的折扣率维持在6%，与上月持平。
面对内存价格持续攀升，人工智能企业不得不调整策略，通过优化设计降低单位算力对内存容量的依赖。谷歌今年推出的两款TPU ASIC芯片就采用了内存优化设计，宣称可将内存需求降至原有水平的六分之一。其中，TPU8i芯片采用专用分层内存架构，依托高速DDR5内存执行主机级任务，每颗芯片还配备288GB的HBM3e高带宽内存。
尽管谷歌在新技术上投入巨大，但DDR4回收计划暴露出其内存需求仍未得到充分满足。这一现象表明，即便采用最新DDR5和HBM3e技术，内存供应仍是制约算力提升的关键因素。谷歌的应对措施折射出整个行业在内存短缺压力下的困境与突破尝试。
