一家由Khosla Ventures投资的初创公司PrismML近日引发科技界关注,其宣称成功将270亿参数的AI大模型压缩至可在iPhone 17 Pro上本地运行,这一突破为移动端AI应用开辟了新可能。该模型基于阿里巴巴开源的Qwen 3.6架构,通过数学压缩技术将体积从54GB缩减至不足4GB,且运行时可全量激活所有参数,与当前主流移动端模型仅数十亿参数激活形成鲜明对比。
苹果公司被曝已与PrismML展开技术合作洽谈。据知情人士透露,苹果去年在尝试将内部AI模型适配iPhone时遭遇性能瓶颈,而PrismML的压缩技术恰好能解决这一难题。尽管苹果今年6月发布的设备端模型已达200亿参数,但采用稀疏架构导致实际激活参数仅10亿至40亿,远低于PrismML方案的全量激活能力。这种技术差异使PrismML成为苹果完善设备端AI战略的关键潜在合作伙伴。
PrismML的核心优势源于其数学压缩专利。该公司由加州理工学院电气工程学教授Babak Hassibi创立,其团队在校期间完成的数学研究为压缩技术奠定基础。Caltech将相关专利独家授权给PrismML,使该公司能在不损失性能的前提下实现超90%的压缩比。该技术已通过开源模型验证,下周二将正式发布相关代码,供开发者测试评估。
Khosla Ventures对PrismML的投资逻辑折射出AI领域的技术路线之争。该机构创始人Vinod Khosla表示,投资决策基于对"构建AI新方式"的判断,认为PrismML的技术突破不亚于2018年对Transformer架构的押注。这种观点与苹果的设备端AI战略形成共鸣——苹果长期将本地化AI作为隐私保护的核心,但其最新Siri升级仍依赖谷歌云端模型,暴露出技术自主性的短板。
行业对纯设备端AI路线存在争议。以Argmax为代表的初创公司主张混合架构,将简单任务交由设备处理,复杂推理仍需云端支持。支持者指出,云端模型每周迭代的速度使纯本地化方案难以保持竞争力。PrismML承认这一挑战,但表示其技术路线能确保用户获得最新模型性能,通过定期更新压缩算法实现与云端同步。
PrismML已制定更激进的技术目标:将万亿参数级模型压缩至移动端运行。若成功实施,该公司将直接挑战OpenAI GPT和Anthropic Claude等云端巨头的市场地位。Hassibi预测,三年内95%的AI计算将在本地完成,仅5%高端需求依赖云端。这一愿景与苹果的战略需求高度契合,为双方潜在合作增添想象空间。
技术商业化进程面临多重考验。除需证明压缩模型的实际性能外,PrismML还需应对不同硬件平台的适配问题。尽管iPhone 17 Pro成为首个突破口,但安卓阵营的芯片架构差异可能增加技术推广难度。该公司表示正在与多家芯片厂商合作优化底层支持,为未来跨平台部署铺路。

