ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

四台Mac Studio干翻云端集群!苹果联手LM Studio本地跑起万亿参数大模型

时间:2026-06-23 03:23:12来源:CHINAZ编辑:快讯

在刚刚落幕的WWDC2026 上,LM Studio与苹果完成了一场令人瞩目的技术演示——仅用四台Mac Studio组成的集群,就成功运行了月之暗面的万亿参数大模型Kimi K2.6。这一成果打破了"万亿模型必须依赖云端GPU集群"的固有认知,让消费级硬件承载前沿AI算力成为现实。

Kimi K2. 6 总参数规模高达 1 万亿,采用MoE架构,激活参数为 320 亿,支持长上下文、多模态输入及智能体任务处理。此次演示中,四台Mac Studio通过苹果的内存共享和互联技术组成集群,统一内存总量约达1.5TB,足以满足这一巨型模型的推理需求。此前开发者测试显示,在类似配置下Kimi K2. 6 可达到约28 tokens/s的生成速度,而功耗远低于传统GPU方案。

从iPhone直连本地集群,数据全程不出门

更值得关注的是,演示中还展示了LM Studio的LM Link远程访问功能。用户可以在MacBook Neo笔记本和iPhone上安全地远程连接到Mac Studio集群,与正在运行的模型实时交互,而所有数据和通信始终保持本地化处理,不走云端。

LM Link已更新至LM Studio的Mac应用和Locally AI的iOS应用中,支持端到端加密连接。这一设计让用户即使手握轻量设备,也能随时调用集群级的AI算力,同时不必担心隐私泄露风险。配合苹果Thunderbolt 5 RDMA等多设备内存共享技术,整个生态在AI本地化部署方面的技术闭环正在加速成型。

此次合作释放了一个清晰信号:本地部署万亿参数大模型不再是遥不可及的实验室概念,而是正在走向开发者案头的工程现实。随着苹果硬件互联能力的持续进化,消费级设备承载大规模AI推理的边界,有望被进一步拓宽。

更多热门内容
金乙昌“5G+C-V2X”天线赋能:天津港到策克口岸无人驾驶效率跃升之路
《智能网联汽车5G/C-V2X高质量发展行动计划》提出到2030年,5G新车渗透率达95%,C-V2X直连通信渗透率达30%,推动无人驾驶技术在港口、口岸等场景落地,提升安全、效率与体验。

2026-06-23

国泰中证机器人ETF(159551)6月22日跌1.58%,规模份额双降流动性如何?
机器人ETF国泰(159551)成立于2023年11月8日,基金全称为国泰中证机器人交易型开放式指数证券投资基金,基金简称为国泰中证机器人ETF。 规模方面,截止6月18日,机器人ETF国泰(159551)…

2026-06-23