ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

Taalas“硬连线”技术突破:集群方案助力DeepSeek R1实现近乎零延迟交互

时间:2026-02-21 14:36:41来源:互联网编辑:快讯

在人工智能算力竞争愈发白热化的背景下,AI芯片初创企业Taalas推出了一项突破性技术——通过“硬连线”方式将AI模型直接固化在硅片中,试图解决大模型推理延迟与成本高企的双重难题。与传统依赖高带宽内存(HBM)和复杂散热系统的设计不同,该公司选择专用集成电路(ASIC)路径,开发出能将任意AI模型转化为定制硅片的平台,核心原理是将特定大语言模型(LLM)的神经网络结构直接映射至芯片电路,在DRAM级密度下完成全部计算。

这一设计从物理层面消除了数据传输的“内存墙”瓶颈。通过摒弃HBM、多层封装及昂贵的散热方案,Taalas的芯片在理论架构上实现了计算与存储的深度融合。其首款产品HC1专为meta的Llama 3.1 8B模型优化,采用台积电6nm制程工艺,芯片面积达815平方毫米,几乎与英伟达H100相当。尽管如此,该芯片仅能容纳80亿参数的模型,与当前主流的万亿参数模型存在显著差距,反映出硬连线技术在参数密度上的天然限制。

性能测试数据显示,HC1在特定条件下可实现每秒17,000个tokens的生成速度。在EE Times的实测中,其在线聊天机器人演示达到每秒15,000+ tokens的输出能力。公司透露,这一成绩部分得益于对Llama3.1-8B模型的“激进量化”处理。更引人注目的是成本优势:相比现有高端算力方案,HC1的单位token生成成本降低至二十分之一,同时将推理速度提升10倍。

为弥补单芯片容量不足的问题,Taalas采用集群化扩展策略。在针对DeepSeek R1模型的测试中,30芯片组成的集群系统实现每用户12,000 TPS的吞吐量,远超当前GPU集群约200 TPS/User的行业水平。这种架构使实时交互场景中的延迟接近不可感知级别,特别适用于需要快速响应的复杂推理任务。TPS(每秒Token数)作为衡量模型生成效率的核心指标,其数值提升直接缩短了用户等待时间,类似于提升打字员的输入速度。

尽管技术参数亮眼,但Taalas的商业模式面临特殊挑战。由于模型权重被永久固化在芯片硬件中,客户需为特定算法版本购买专用设备。这意味着一旦底层模型更新迭代,已部署的硬件可能面临快速贬值的风险。行业分析师指出,这种“模型-芯片强绑定”的模式在算法进化速度极快的AI领域,可能制约其长期市场接受度。

更多热门内容
清华教授领衔!生数科技获阿里云领投近20亿,从AI视频迈向通用世界模型新赛道
就在融资前一天,生数科技旗下的视频生成模型Vidu全系列刚刚登陆阿里云百炼模型广场。自己研发了HappyHorse模型,登顶盲测榜单;上月领投3D生成平台Tripo AI的5000万美元融资;去年9月领投爱诗…

2026-04-12

小米产教融合再传佳音:成都新基地启用 共同体成果丰硕签约不断
IT之家 4 月 11 日消息,4 月 11 日至 12 日,2026小米产教融合大会暨新一代智能硬件技术行业产教融合共同体(下文简称小米产教融合共同体)年会在四川成都科幻馆召开。 小米在会上宣布,正式与柔…

2026-04-12