11月22日,总部位于美国加州帕洛阿尔托的初创公司Architect Labs在 research 博客中宣布,其AI系统自主完成了一款通用CPU的发现、设计与验证,并将其命名为Frostbite。该处理器采用全新指令集,设计思路从底层重新出发,目标是绕开传统CPU架构的部分限制。
不过,Frostbite目前还没有真正流片。相关性能数据来自基于7纳米工艺的模拟设计,尚无实体芯片可供验证。在25项工作负载测试中,由4个计算单元组成的Frostbite集群,每瓦性能达到一款尺寸相近、已完成硅验证的双发射顺序执行CPU核心的4.59倍。由于法律原因,Architect Labs不能公开作为对照的CPU核心型号。
传统CPU在运行时需要用硬件判断指令间的依赖关系,并重新找出可并行执行的部分;多核处理器还要依靠多级缓存和缓存一致性协议,让各核心看到的共享内存数据保持一致。这些机制会占用芯片面积、消耗电力,在处理器规模扩大时也会遇到扩展效率下降的问题。
Architect Labs给出的替代思路名为“免费多线程”。它不依赖传统线程、锁机制或乱序执行硬件在运行中寻找并行机会,而是让程序本身直接暴露可以并行执行的工作。
Frostbite由多个计算单元组成,每个计算单元称为一个Tile,结构相同,属于小型处理单元。这些Tile通过片上网络互相连接,并各自拥有容量较小的本地内存。完整设计包含16个Tile,本次测试使用的是由4个Tile和4个L3节点组成的计算集群。
在早期综合阶段,Frostbite设计频率曾达到800MHz,最终布局设计降至500MHz。除每瓦性能为对照核心的4.59倍外,该集群的单位面积性能也达到对照核心的8.77倍。不同负载下提升幅度差异较大:25项测试的几何平均值为4.59倍,用于设计调优的10项测试为6.02倍,最终评估阶段才引入的15项测试为3.83倍。表现最好的conv2d未参与调优,提升23.12倍;表现最差的递归斐波那契也未参与调优,仅为1.15倍。
参与设计的AI系统最初没有采用任何预设处理器架构理念,Architect Labs将这种状态称为“零架构先验”。但团队仍提前确定了处理器需要重点优化的工作负载。多个AI智能体随后阅读学术论文和性能测试资料,建立Python模型,并从中选定一个架构方向。最初生成的设计文档有141页,涵盖编程模型、运行时环境和高层硬件模块。
第一版寄存器传输级设计生成后,这份PDF文档被删除。公司解释称,文档中的许多数字和估算结果与物理实现的实际可能性相差很大,它从一开始只是设计起点。确定架构方向后,AI智能体不再依赖英语描述硬件规格,因为团队认为自然语言无法准确表达所有细节,也难以发现其中错误。
取而代之的是,AI使用Architect Labs自行开发的硬件描述语言ASL编写规格。ASL可以转换为Lean证明系统中的形式化表达,再接受机器验证。公司认为,这能消除大量潜在错误,并减少AI智能体为满足优化目标而钻规则空子的可能。在此基础上,AI智能体还开发了用ASL编写的软件模型Arcmodel,可在真正开始电路设计前模拟整颗芯片的运行行为。由于直接模拟RTL速度较慢,团队先在Arcmodel上测试方案,其速度约为RTL仿真的200倍。
最初,Arcmodel给出的功耗估算并不准确,最大偏差接近250%。系统通过自动化迭代调整模型,最终将功耗估算与实际电路设计测量结果之间的偏差缩小到5%以内。完成基础模型后,大量AI智能体并行提出设计优化方案,每项修改都要经过规格验证、快速模型测试、电路设计实现和功耗测量,只有通过检查的方案才会保留。整个过程尝试了58项优化,最终保留37项。
设计过程中还出现了一种人类设计者从未明确规定的行为,即“工作窃取”:某个Tile没有任务可执行时,可以从相邻Tile获取尚未完成的工作;如果没有可用任务,则进入空闲状态以节省电力。
能耗分布方面,Frostbite与传统CPU也明显不同。根据公司对20种工作负载的平均测量结果,且不包括时钟分配能耗,传统CPU的内存能耗占比为57%,Frostbite为38%;指令获取、解码和发射环节的占比从27%降至6%。Frostbite的片上网络和调度器带来了新的开销,占比为26%。时钟分配占总能耗比例则从49%降至41%。
这并非Architect Labs首次展示AI参与设计处理器。今年8月,该公司公布了面向机器人和无人机的AI推理加速器Redwood。两名人类架构师只需提供设计规格,AI就能在不到两周内生成RTL代码、验证程序、固件、驱动程序和计算内核。不过,Redwood目前也只在FPGA上运行,尚未制造出实际芯片。
与此同时,英国剑桥的初创公司Tendrils Compute也在开发类似方向的处理器。11月早些时候,该公司完成新一轮融资,并表示正在研发一款能让数千个核心并行运行的处理器。Tendrils Compute还在开发名为Vine的编程语言,Frostbite的程序同样采用这种语言编写。
目前,Frostbite公布的性能优势仍来自模拟设计,尚未经过实际硅芯片验证,也没有实际芯片可供测试。