AI领域再掀波澜,Thinking Machines公司推出的第二款大模型Inkling-Small引发广泛关注。这款采用混合专家架构的模型拥有2760亿总参数,单次推理仅激活120亿参数,却展现出超越初代Inkling及万亿参数模型的性能表现。
在数学推理、智能体编码、多模态理解等核心基准测试中,Inkling-Small以四分之一的参数量实现了全面反超。特别在HLE、Terminal-Bench等关键指标上,该模型每单位计算量的性能产出较前代提升显著,测试曲线始终压制初代模型。多模态能力方面,图表解析、视觉推理等任务表现接近原版,但硬件需求大幅降低。
技术团队通过两阶段优化实现突破:首先利用初代模型进行策略蒸馏生成预览检查点,随后进行为期两周的智能体编码强化学习。这种训练范式使模型在短时间内完成性能跃迁,验证了可复制的模型生产流水线。LMSYS组织评价称,120亿激活参数的设计堪称强化学习的黄金平衡点,既支持LoRA微调也适配全参数训练。
硬件门槛的降低成为重要突破。初代模型部署需要8张B300或16张H200显卡,而新模型在8张B200配置下即可运行,NVFP4量化版本显存需求降至600GB。实测显示,在相同硬件环境下,Inkling-Small的解码速度达到648token/秒,较初代提升数倍。
这家由OpenAI前核心成员创立的公司正经历剧烈人事变动。创始团队六人中已有四人离职,其中三位重返OpenAI。值得关注的是,在首席科学家翁荔宣布离职三天后,公司便火速发布带全量权重的开源模型。这种人才流失与模型迭代速度形成鲜明对比,折射出AI行业竞争加剧的现实。
技术文档详细披露了训练优化细节:调整预训练数据配比、重构机器学习框架、改进强化学习策略。特别值得注意的是,新模型通过策略蒸馏技术将初代知识有效压缩,在保持性能的同时实现参数效率的质变。这种技术路径为中小团队定制大模型提供了可行方案。
行业观察家指出,Inkling-Small的发布标志着大模型竞争进入新阶段。当参数规模突破临界点后,模型效率、硬件适配性、开发友好度成为新的角力点。Thinking Machines用实际行动证明,即使在核心团队动荡的情况下,通过技术创新仍能保持技术领先地位。

