加拿大多伦多的近内存计算AI推理芯片创新者Untether AI,在其官方网站上公布了一项重大决定,该决定源自与AMD达成的协议。根据协议条款,Untether AI的整个团队将整合进AMD,标志着Untether AI将停止对其speedAI和imAIgine SDK的供应和技术支持。
AMD方面也在向媒体CRN发布的声明中确认了这一战略收购,强调此次合作使AMD获得了一支由杰出AI硬件与软件工程师组成的团队。
值得注意的是,Untether AI的speedAI240,作为其第二代AI推理加速器芯片,在内存架构中融入了1400个定制的RISC-V内核,能够提供高达2PFLOPS的推理性能,能效比更是达到了惊人的20 TFLOPS/W。基于这款芯片的AIC卡设计紧凑,仅为单槽厚度,且TDP仅为75W。
当前,AI推理工作负载面临的一大挑战在于内存访问和数据移动的效率。近内存计算和内存内计算作为前沿技术,为解决这一问题提供了新思路。这些架构不仅能够显著提升AI性能,还能有效减少数据传输带来的能耗。在存储领域,三星电子和SK海力士也已推出了基于处理内存(PIM)理念的产品。
AMD此次对Untether AI团队的吸纳,无疑将极大丰富其AI芯片技术栈,进一步增强其与英伟达AI GPU及其他ASIC产品的竞争力。