周一,英伟达公司推出了一款名为Lepton的全新软件平台,旨在构建一个集中化的AI计算力市场,以应对其高性能GPU需求的持续激增。
Lepton平台的设计初衷,是将提供英伟达GPU的云服务商与寻求AI模型训练计算能力的软件开发者连接起来。英伟达GPU在人工智能工作负载领域,被业界广泛视为行业标准。
近年来,诸如CoreWeave和Nebius Group等专注于租赁英伟达GPU给开发者的“新云”服务商如雨后春笋般涌现。这些公司,以及Crusoe、Firmus、Foxconn、GMI Cloud、Lambda、Nscale、SoftBank Corp和Yotta Data Services等,已成为首批加入Lepton市场的企业。
尽管需求高涨,但获取可用GPU的过程仍然效率低下,英伟达云业务副总裁亚历克西斯·比约林表示。“这几乎就像每个人都在互相打电话,询问可用的计算能力。”她说,“我们正努力使其无缝衔接,以扩展生态系统,并向英伟达开发者社区开放访问。”
值得注意的是,在Lepton发布时,微软、亚马逊网络服务(AWS)和谷歌云等大型云服务商并未参与。不过,比约林表示,该平台对他们开放,如果他们愿意,可以在上面列出自己的计算能力。
Lepton未来将支持地理筛选功能,使开发者能够在特定国家定位GPU,以满足数据驻留和存储要求。它还将使已经拥有英伟达硬件的公司能够轻松找到额外的租赁容量。
IDC集团副总裁马里奥·莫拉莱斯认为,这一平台是英伟达的一项战略举措。“他们拥有近500万开发者。这是为了让他们更广泛、更便捷地访问英伟达技术。”他指出。
英伟达尚未透露Lepton的商业模式,包括是否会收取佣金或费用。不过,比约林证实,开发者将继续与他们签约的计算服务商保持直接关系。