ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

面壁智能联合发布BitCPM-CANN:国产算力助力端侧大模型显存红利大释放

时间:2026-05-26 01:26:10来源:互联网编辑:快讯

面壁智能近日携手清华大学、OpenBMB开源社区,共同推出并开源了其在低比特大模型训练领域的突破性成果——BitCPM-CANN。这一三值(1.58-bit)大模型不仅是中国首个完全基于国产算力平台华为昇腾实现端到端训练的模型,更在技术层面实现了重要突破。

在5月23日的华为鲲鹏昇腾开发者大会(KADC 2026)上,BitCPM-CANN首次亮相便引发了广泛关注。如今,面壁智能决定将这一成果的全系列模型向全社会开放,为端侧大模型的发展注入新的活力。与传统BF16精度相比,BitCPM-CANN在推理阶段能够释放约6倍的显存红利,同时将模型能力保留率维持在90%至97.2%的高水平。这意味着,在相同的设备内存下,可以承载更强大的模型能力;或者,在保持相同模型能力的情况下,所需内存仅为过去的六分之一。

这一技术突破对于端侧设备,尤其是手机来说,具有重大意义。以手机为例,未来有望在手机上运行参数规模达到60B的大模型,这将极大提升手机的智能化水平。目前,“2-bit”量化已成为端侧芯片行业的研究热点,也是实现手机上运行更大参数模型的关键技术瓶颈之一。通过2-bit量化,模型权重可以被压缩6至8倍,从而能够存入手机闪存。例如,4GB内存的手机可以存放16B的模型,若配合MoE与激活范围约束技术,甚至可以存放32B的模型;若内存扩大至8GB,则模型参数可扩展至60B。

面壁智能表示,BitCPM-CANN的发布标志着其高效大模型“小钢炮”在端侧落地能力上的进一步提升。通过开源这一成果,面壁智能不仅展示了自身在低比特大模型训练领域的技术实力,更为中国端侧大模型赛道的发展贡献了一份新的力量。这一成果的开放,将有助于推动端侧大模型技术的普及和应用,为智能设备的未来发展开辟新的道路。

更多热门内容
AI浪潮下教育何去何从?2026世界人工智能大会专家共探破局之道
丁奎岭:有研究提出,在AI时代,学生仍需要重点关注自己在语言、社会互动、问题解决、批判性思维、记忆、感知、实践操作、人机协同等方面的能力培养。 周刚:在上海徐汇区,我们正在做3件事,试图重构教育的“生产方式…

2026-07-21

WAIC 2026聚焦教育变革:上海首发国际智慧教育平台,AI赋能教学新未来
据介绍,该平台是面向基础教育场景的人工智能实训平台,旨在为区域、学校、教师和学生提供普惠化、可扩展的人工智能教学与实践支持,构建“手脑协同”的AI教育新模式。依托希沃自研的教育垂直大模型与成熟的远程互动技术底…

2026-07-21

上海“智赋消防·数护平安”活动:发布多项成果 推动消防智能化发展
7月20日,“智赋消防·数护平安”人工智能+消防主题交流活动在2026世界人工智能大会会场举行。 上海消防全域全量数据资源池建设成果同步发布。 活动现场还发布了“司律”消防AI标准体系、上海消防智能体集群等…

2026-07-20

具识智能WAIC首发具身语义智能体系统,开启机器人语义驱动新纪元
围绕这一判断,具识智能将在2026世界人工智能大会展示一条具身智能落地新路径:从全国产自主可控的操作系统底座出发,以语义驱动打通"理解—规划—执行—进化"全链路,连接多形态机器人本体,并在真实场景中持续验证…

2026-07-20

Agent浪潮下:硬件如何从“AI原生”迈向“Agent原生”新生态?
从上面的理解出发,我们在过去一段时间重点关注了几家在关系、上下文和Agent载体三个层面尝试的产品:酷奇奇尝试优化陪伴体验,C.ONE在探索让长期上下文通向行动,光帆科技和玄景则在构建一个让Agent理解现…

2026-07-20

Rapidus携手Cadence发力芯片设计AI辅助 推动先进制程SoC设计周期缩短一半
月 20 日消息,日本先进半导体制造商 Rapidus 与芯片 EDA & IP 巨头 Cadence 上周宣布在芯片设计 AI辅助领域开展合作,促进 AI 智能体在先进制程 SoC 设计的应用,目标将芯片…

2026-07-20