芯东西(公众号:aichip001)
编译 | 程茜
编辑 | Panken
芯东西8月3日消息,刚刚,英国伦敦AI芯片创企OLIX宣布融资3.12亿美元(约合人民币21亿元),估值达33亿美元(约合人民币223亿元),Arm、Netflix联合创始人雷德·哈斯汀斯(Reed Hastings)等参投。
OLIX的新一轮资金将用于支持其在2027年下半年向首批客户交付AI推理芯片DX-1,并用于构建其定制芯片平台,以及满足扩展推理芯片所需的制造和供应链承诺。
OLIX成立于2024年3月,专注于基于新型光子互连技术,为超高负载的推理任务打造兼顾高吞吐与高交互性能的AI推理芯片,计划开发比英伟达GPU更快、更便宜的AI芯片。
其核心思路是将SRAM存储架构与光互连技术融合并做规模化落地,在单位功耗吞吐率(throughput/MW)与总体拥有成本(TCO)两项指标上,能够超越依托HBM高带宽内存搭建的传统架构;同时相较纯硅基SRAM方案,在交互响应能力与数据时延表现上可形成领先优势。
今年2月,OLIX获得2.2亿美元(约合人民币14.9亿元)融资,估值超10亿美元(约合人民币67.5亿元)跃升独角兽,半年后其估值涨超2倍。据英国《金融时报》披露,截至目前,OLIX累计融资已超5.62亿美元(约合人民币38亿元)。
OLIX的创始人为今年25岁詹姆斯·达科姆(James Dacombe)。他16岁从高中辍学,18岁成立了英国脑监测创企CoMind,这家创企至今已融资1亿美元(约合人民币6.8亿元)。
▲OLIX创始人达科姆(James Dacombe)英国《金融时报》
一、明年下半年交付首颗芯片,多机柜架构可适配10万亿参数模型
根据OLIX的官网,其研究人员认为,业界构建AI推理芯片的方式已接近效率极限。数据中心就像一座生产token的工厂,生产一个token需要数百道工序,每道工序对硬件的要求都不尽相同。
其他工厂会为每个工序配备一台专用机器,但token工厂却将所有工序都运行在同一块通用芯片上,每一代新芯片都通过提升单芯片规格来改进性能,这也导致其芯片通用性更强,却始终无法成为专业级芯片。基于此,OLIX打造的系统,就是让token生产流程的每个阶段都能使用专用芯片。
OLIX的X-1平台中,模型被拆解、分发至海量芯片并行运行,每一颗芯片只需专职处理模型的某一段计算任务。AI模型架构迭代速度极快,所有芯片均搭载可编程柔性计算阵列,不会将特定模型架构以硬编码形式固化在芯片硬件内部。
上述整套系统以低速和宽带宽光互连架构为核心,摒弃传统铜线传输方式,依靠光信号在芯片间直接完成数据交互,使其实现低时延与低功耗。
OLIX将整条传输链路所有组件采用了机柜级协同一体化设计,其平台搭载全确定性编译器,负责跨机柜的算力任务调度。研究人员认为,这套方案能降低现有前沿AI模型的使用成本、提升算力供给体量,更关键的是可以为未来算力更强的超大模型落地部署扫清障碍。
目前,研究人员正在X-1平台中开发首款芯片DX-1,专为大模型推理运算与内容输出阶段打造。
根据OLIX公布的数据,针对千亿参数大模型,DX-1可实现帕累托(pareto)最优推理性能,单用户Token生成速率可达每秒10000 Token以上,同时相较于运行超大批次任务的通用芯片,其单位功耗的Token输出吞吐率性能更优。
OLIX的多机柜scale-up扩展架构,其可适配十万亿参数及以上超大规模模型。
二、聘任软件定义网络联合发明人、任命新首席财务官
OLIX还官宣了人事变动,宣布尼克·麦基翁(Nick McKeown)加入其董事会、任命马特·布莱尔斯(Matt Briers)为首席财务官。
麦基翁是软件定义网络(SDN)、OpenFlow协议以及P4编程语言的联合发明人。他目前担任斯坦福大学计算机科学与电气工程荣誉退休教授。
麦基翁曾联合创办软件定义网络(SDN)创企Nicira、可编程门公司Barefoot Networks。2012年,Nicira被云计算公司VMware收购,2019年Barefoot Networks被英特尔收购后,麦基翁加入英特尔,于2021年至2023年担任英特尔网络与边缘事业部(NEX)高级副总裁兼总经理。
布莱尔斯曾担任英国金融科技公司Wise的首席财务官长达九年。他于2015年从谷歌加入Wise,当时Wise拥有约50万客户,并且处于亏损状态。2021年,Wise成功转型并在伦敦证券交易所上市,这也刷新了该交易所同期上市公司的规模纪录。
结语:基建追赶不上算力增长,关键制约在于Token生成方式
如今,算力需求的增长速度已经超过其底层基础设施的扩展能力。OLIX的研究人员认为其制约因素在于Token的生成方式。
生成一个Token包含多个操作,且每个操作对硬件的要求各不相同,要推动AI的持续发展并使其惠及所有人,就需要像所有大型工厂一样重建数据中心,将其打造为一条生产线,配备专用机器,并在机器之间实现快速、低成本的资源转移。