AMD近日宣布完成对AI芯片初创企业Taalas的收购,此举被视为其深化AI推理领域布局的关键一步。这家成立于2023年的加拿大公司凭借独特的技术路线,在芯片架构领域开辟了新赛道——其产品通过将模型权重直接蚀刻至硅片,构建出与主流GPU、Groq LPU及Cerebras晶圆级加速器截然不同的数据流架构。
传统方案依赖高带宽内存(HBM)存储模型权重,而Taalas的创新方案采用模型专用集成电路设计,芯片内部划分为两大核心区域:掩膜ROM结构负责存储模型权重,SRAM结构则承担KV缓存与微调适配器的存储任务。这种架构使推理性能获得数量级提升,初步测试数据显示,其首款6纳米工艺芯片HC1在运行meta Llama 3.1 8B模型时,每秒可处理16,960个token,性能达到英伟达GPU的48倍、Cerebras加速器的8.5倍。
尽管测试使用的Llama 3.1模型已非最新版本,但HC1芯片的光罩尺寸设计主要服务于技术验证目标。公司现已启动第二代产品HC2的研发,计划将单芯片参数容量提升至200亿。通过GPU常用的流水线并行技术,多颗加速器可协同处理更大规模模型——以50颗芯片的集群为例,即可支撑万亿参数级大模型的运行需求。这一特性与AMD现有的机架级计算平台形成完美互补,其内部系统设计团队具备承接此类大规模部署的能力。
在能效比与空间利用率方面,Taalas方案展现出显著优势。对比英伟达最新LPX系统运行同等规模模型需要数十颗GPU与2000颗Groq LPU的配置,Taalas的加速器集群在物理占用与功耗控制上更具竞争力。据内部人士透露,AMD正规划将Taalas芯片与Instinct系列Helios机架整合,构建混合计算架构:GPU专注处理计算密集型的提示词生成,Taalas加速器则承担token生成任务,形成专业化分工。
这种技术融合还衍生出新的部署模式——客户可先在Instinct加速器上完成模型训练与验证,再无缝迁移至Taalas平台进行推理优化,形成类似芯片制程领域的"工艺-架构"迭代节奏。此次收购延续了AMD近年来的AI领域扩张策略:2024年该公司先后以6.65亿美元收购AI模型开发商Silo AI、49亿美元拿下服务器厂商ZT Systems,并通过收购推理软件企业MK1等举措,逐步构建起覆盖硬件、软件、系统的全栈生态。