近日，科技界传来一则关于人工智能可持续发展的新动向。据marktechpost报道，meta AI旗下的FAIR研究团队与佐治亚理工学院携手，共同推出了一个名为CATransformers的创新框架。这一框架将碳排放作为核心设计要素，旨在通过优化模型架构与硬件性能的结合，大幅度降低AI系统的总碳足迹。
随着机器学习技术在推荐系统、自动驾驶等领域的广泛应用，其带来的环境压力也日益凸显。这些技术背后需要强大的计算资源支持，往往依赖于定制的硬件加速器来运行。然而，无论是训练阶段还是推理阶段，高能耗都直接导致了运营碳排放的增加。
不仅如此，硬件从制造到报废的全生命周期中，还会产生所谓的“隐含碳”，进一步加剧了生态负担。随着全球各行业对AI技术的加速采纳，如何有效应对运营碳和隐含碳的双重挑战，成为了亟待解决的问题。
以往，减少碳排放的方法主要聚焦于提升运营效率，例如通过优化训练和推理过程来降低能耗，或提高硬件利用率。然而，这些方法大多忽视了硬件设计和制造阶段的碳排放，也未能充分考虑模型设计与硬件效率之间的相互作用。
而CATransformers框架的推出，则打破了这一局限。该框架通过引入多目标贝叶斯优化引擎，能够同时评估模型架构与硬件加速器的性能，从而在延迟、能耗、精度和总碳足迹之间找到平衡点。这一创新性的设计思路，为可持续AI的发展开辟了新的道路。
特别是在边缘推理设备方面，CATransformers框架展现出了显著的优势。通过剪枝大型CLIP模型来生成变体，并结合硬件估算工具对碳排放与性能进行分析，该框架成功推出了CarbonCLIP-S和CarbonCLIP-XS等模型。这些模型在保持高精度的同时，实现了碳排放的大幅降低和延迟的有效控制。
研究表明，单纯追求延迟优化的设计策略，可能会导致隐含碳的增加。而CATransformers框架通过综合考虑碳排放与延迟的优化策略，实现了总排放的显著削减，同时保持了极低的延迟损失。
CATransformers框架的推出，标志着AI开发领域向可持续性迈出了重要一步。通过将环境指标嵌入到设计过程中，该框架为可持续机器学习系统的设计奠定了坚实基础。这充分表明，如果在AI开发的初期阶段就充分考虑硬件能力与碳影响，完全有可能实现性能与可持续性的双赢局面。随着AI规模的持续扩大，CATransformers框架无疑为行业提供了一个切实可行的减排路径。
