ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

26B多模态模型开放权重 笔记本可离线运行智能体

时间:2026-11-22 18:35:35来源:互联网编辑:快讯

近日,Thinking Machines Lab 将其新模型 Inkling 2 Mini 的权重对外开放,许可为 Apache 2.0。该模型总参数 26B,属于多模态模型,可处理文本和图像输入,上下文窗口最高达到 100 万 token。开发者可以下载部署,也能借助 Tinker 做推理和微调。

Inkling 2 Mini 的架构重点在于循环 Transformer。它共有 24 层,但并非每一层只运行一次:最前和最后 6 层各执行一次,中间 12 层会循环三次。这样一来,模型存储 24 层权重,却能为每个 token 完成 48 次层计算。后续循环还会接收上一轮传递的信息。

为了控制推理成本,模型采用混合专家架构,每个 token 只激活部分专家。其激活参数约为 3.4B,把循环中的重复计算计入后,有效激活量约为 5.4B。官方还同步发布了研究版本 TML-d24-varloop-research,允许在推理时调整循环次数,便于比较同一组权重在不同计算量下的表现。

部署方面,Inkling 2 Mini 的专家层主要采用 NVFP4 低精度格式,最后 4 层使用 MXFP8。训练和部署保持相同精度,减少了转换环节。发布检查点约 20GB,官方称至少 32GB 内存的 Apple 芯片设备可以运行,其他 GPU 平台建议提供至少 32GB 显存。Ollama、vLLM、SGLang 等工具已支持本地推理。

TML 的演示把运行环境放到了离线笔记本上。在一台配备 48GB 内存的 M5 Pro 版 MacBook Pro 上,研究人员断开网络,让模型在几分钟内生成一个可玩的飞行模拟器。另一个项目是像素小镇 Thinkyville,同一模型在一台离线 MacBook 上驱动 20 位村民,让他们安排生活、闲聊、参加烘焙比赛,并回复门上的便条。

社区也很快给出反馈。有用户把模型接入 DeepSeek Harness,获得较快的速度;有人让它游玩电子游戏,并观察到它可以反复游玩、改进策略和学习速通;还有用户用它生成动画 MV。

评测数据显示,Inkling 2 Mini 的优势集中在智能体编程、搜索和工具使用。它在 DeepSWE v1.1 上的任务解决率为 48.2%,高于对比的 Qwen3.8-27B 的 42.2%;在 SWE-bench Verified 上,两者分别为 79.2% 和 77.8%。

不过,TML 也列出了模型的边界。Inkling 2 Mini 在多轮对话和多重约束指令上仍有短板,复杂推理表现与更大模型存在差距;增加循环次数,也不会直接增加权重中储存的事实知识。

更多热门内容
马斯克称AI行业明年或现资金缺口 算力扩张承压
11月22日,知名深度学习领域开源项目Keras创始人弗朗索瓦・肖莱(François Chollet)在社交平台上表示,要么你认为AI基础设施建设已经结束,AI只是一场昙花一现的泡沫,且算力需求已经见顶;要…

2026-11-22

马斯克谈AI算力扩张 明年或面临资金短缺?
据中新经纬,11月22日,知名深度学习领域开源项目Keras创始人弗朗索瓦·肖莱(François Chollet)在社交平台上表示,要么你认为AI基础设施建设已经结束,AI只是一场昙花一现的泡沫,且算力需…

2026-11-22

马斯克称AI算力扩张遇资金考验 明年或需数千亿美元补缺
IT之家 11 月 22 日消息,深度学习领域开源项目 Keras 创始人弗朗索瓦・肖莱(François Chollet)在 X上发文称,要么你认为 AI 基础设施建设已经结束,AI 只是一场昙花一现的泡…

2026-11-22

公共网络如何让智能红利回归全民共享
智能化三要素(手机、时间、消费)本属全民,却被私有平台无偿占用;建一张消费者控股约80%的公共网络,AI与智能机器归全民所有、利润按照消费股权分红、以生产能力为锚发提货权替债务货币,于是“机器思考”不再威胁…

2026-11-22

天津大学提出跨场景超声脑电解码新算法
目前尚缺乏量化这些复杂场景的定量分析指标,以及在极端失真场景下无创还原颅内源信号波形的高鲁棒性解码算法,严重影响超声脑机接口的系统性能及应用效果。同时,该研究在解码算法层面通过提取特定PRF 频率处的瞬时复…

2026-11-22