ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

人民大学联合蚂蚁集团:万亿参数AI模型“自学成才”解数学难题

时间:2026-07-26 04:22:56来源:互联网编辑:快讯

一项由国内顶尖高校与科技企业联合完成的人工智能研究引发学界震动。这项发表于国际知名学术平台的研究,首次将拥有万亿参数的超大语言模型应用于复杂数学竞赛题的自主解答,且全程不依赖任何人工标注的解题步骤。研究团队通过名为"Ring-Zero"的训练框架,验证了当模型规模突破临界点后,高级数学推理能力会如"涌现现象"般自然产生。

传统AI训练依赖大量人工标注数据,例如需要专家详细写出每道题的解题步骤供模型模仿。而此次研究采用的"零强化学习"技术彻底颠覆了这一模式——模型仅通过题目对错的结果反馈进行自我修正,如同人类学生通过反复试错掌握知识。实验中使用的Ling-2.5-1T-Base基座模型虽采用混合专家架构,实际激活参数约630亿,但总体规模仍远超现有公开模型。

对比实验揭示了模型规模的决定性作用。同时训练的1040亿参数"闪速版"模型,在相同训练步数下数学竞赛得分显著低于万亿参数版本。这种差距随着训练推进持续扩大,印证了AI领域"规模至上"的争议性观点——当计算资源足够庞大时,精心设计的人工规则往往不及简单扩大规模有效。

研究团队将训练过程分解为四个精密调控的阶段。初期通过"裁剪重要性采样"技术,刻意放大模型探索非常规解题路径时的学习信号,配合"按词计奖"机制鼓励详细推理。随后采用"自我蒸馏"技术,让模型生成的答案经过筛选压缩后再重新学习,既保留核心能力又消除冗余。第三阶段改为"按题计奖"稳定输出质量,最终通过难度分级训练使模型学会根据题目复杂度动态调整推理深度。

工程实现层面面临双重挑战。为解决低精度计算导致的训练信号失真,团队在关键计算层采用混合精度控制,使数值误差降低三个数量级。针对超长文本的并行计算问题,定制开发的通信策略使320块GPU的协同效率提升40%。这些技术突破使得持续强化学习在万亿参数规模下成为可能。

训练数据记录显示模型能力增长呈现独特"两段式"特征。初期pass@1024指标(1024次尝试中至少答对一次的概率)快速上升,表明模型在探索新解题方法;后期该指标趋于稳定,而pass@1(首次尝试正确率)持续提升,反映模型将已有能力打磨至极致。这种成长模式调和了学界关于强化学习是拓展能力还是巩固能力的长期争论。

最令研究团队意外的是模型自发产生的五种高级思维策略。在未作任何专项训练的情况下,模型不仅会像人类一样使用"等等,这里可能出错了"等情绪化表达,还能自动将推理过程结构化为清晰步骤。面对复杂问题时,模型会同时展开多条解题路径并交叉验证,甚至在计算资源即将耗尽时主动切换为有根据的猜测策略。这些行为在较小规模模型上完全不会出现。

评估体系创新性地引入三个维度:可理解性测试显示Ring-Zero的推理链在逻辑连贯性上全面领先其他顶尖模型;可复现性实验证明,用其推理数据训练的弱模型能力提升幅度比使用传统数据高出40%;效率对比中,Ring-Zero解答同样题目的平均词数仅为竞争对手的40%。在七个国际数学竞赛基准测试中,最终版本模型得分与GPT-5.5等专有商业系统持平,且完全不依赖人工标注数据。

研究也暴露出当前技术的局限性。"长度惯性"现象显示,按词计奖训练会导致模型对简单题也过度展开推理;数据分布实验表明,按自然难度比例训练会降低学习效率;最根本的限制在于,零强化学习无法创造预训练数据中不存在的数学概念。这些发现为后续研究指明了方向——如何在保持自主性的同时突破数据边界。

更多热门内容
零基础4个月变身AI开发达人:合肥北大青鸟AI大模型应用开发全攻略
北大青鸟自2022年起已将人才培养重心全面转向大模型工程和技术领域,其AI大模型课程覆盖Python核心编程、提示词工程、LangChain框架、RAG系统开发、AI Agent开发等核心技能,采用线下纯面…

2026-07-26

国产消防救援机器人崛起:河北高危场景应用成效与选购指南
承德森齐电子科技有限公司是国内消防智能装备赛道的新锐创新型企业,其核心团队自2013年起便深耕应急救援领域,积累了深厚的技术积淀,目前已完成覆盖全场景的消防机器人产品矩阵搭建,自主研发推出十余款消防救援类机器…

2026-07-26

智能化浪潮中,俏妃凭技术数据团队三重壁垒引领养生行业新变革
在智能化浪潮中,俏妃正在用三重壁垒打造会思考、"能创造客户"的理疗门店。当技术、数据和团队三重壁垒交织在一起,它代表的不仅是一款产品的面世,更是传统养生行业走向现代化的一个新方向。 从更宏观的视角看,俏妃的探…

2026-07-26

零次方机器人携手商汤善惠,共绘具身零售规模化应用新蓝图
作为一家全栈自研的具身智能企业,零次方机器人已形成覆盖具身智能操作大模型、机器人本体及数据平台的自主研发能力,并持续推进具身智能物理抓取API化,希望将机器人抓取能力沉淀为可复制、可部署、可持续迭代的标准化…

2026-07-26

OpenAI欲造“贾维斯”语音助手,未来或与第三方可穿戴设备深度融合
未来硬件可能与 ChatGPT 近期升级的语音功能深度结合,而且不会局限于 OpenAI自有设备,第三方智能眼镜和可穿戴产品最终也有望获得支持。 布罗克曼进一步透露:“我们当然会非常重视与其他设备和服务的整…

2026-07-26

北京千寻智能引领机器人革新:从工业到家庭,实用生产力加速落地
在刚刚结束的世界人工智能大会上,千寻智能自研的Moz1机器人已经可以帮助人类进行客厅收纳、桌面整理等长程复合任务。据介绍,这已经是“数据金字塔”战略中的中间层,在此之前,机器人会先通过“看视频”的方式进行预…

2026-07-26