ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

算术能力成为GPT-4模型的短板,新加坡研究团队推出具备高准确度的Goat模型

时间:2023-06-07 11:59:59来源:ITBEAR编辑:茹茹

【ITBEAR科技资讯】6月7日消息,新加坡国立大学的研究者最近推出了一种名为Goat的模型,专门用于解决算术问题。该模型的推出被认为是针对当下GPT-4模型在算术能力方面存在的短板,因为GPT-4在逻辑推理能力方面尚待提升,无法正确解答许多人认为相对简单的计算问题。

研究人员通过一种新的方法,将算术问题根据可学习性进行分类,并利用基本算术原理将不可学习的任务分解为一系列可以学习的任务。这种分解过程将复杂的计算过程拆解成简单的步骤,让模型能够学习答题模式,并将过程泛化为看不见的数据,而非仅仅依靠权重记忆计算。这种新方法的应用使得Goat模型能够在算术性能方面取得显著提高,尤其在零样本学习中展现出近乎完美的精度,特别是在大数加法和减法生成答案的领域。

研究人员在24GB显存的GPU上进行了Goat模型的训练,并使用BIG-bench算术子任务对其进行了测试。结果显示,Goat模型在准确率方面表现出色,超过了业内的Bloom、GPT-NeoX、OPT等模型。尤其是Goat-7B模型在零样本学习中的准确率甚至一度超过了经过少样本学习后的PaLM-540模型,在大数计算方面更是远远超过了GPT-4。

新加坡国立大学研究者的这一成果对于改进自然语言处理模型在算术问题上的表现具有重要意义。通过将任务分解为可学习的部分,并利用基本算术原理来指导模型学习,Goat模型实现了较高的准确度和性能。未来,这一方法可能会被应用于其他领域的问题求解,为人工智能技术的发展带来更多可能性。

更多热门内容
西电三度入选教育部典型案例 构建智慧教育新范式引领发展
未来,学校将进一步加强数字化支撑,全面提升学校数据决策支撑能力及数据治理水平,持续深化人工智能技术与教育教学、管理服务的深度融合,并致力于将相关智慧教育理念与关键平台推广至更多兄弟院校与区域教育场景,为深化教…

2025-10-12

AI浪潮下:搜索与GEO优化赋能,解锁人工智能集成应用新路径
想象一下,当企业在寻找能够解决某个特定业务痛点的AI应用集成服务时,AI搜索能够迅速理解其需求背后的深层逻辑,精准地将最相关的解决方案和技术供应商呈现在眼前,极大地缩短了信息搜集和筛选的时间。GEO不仅仅是优…

2025-10-12

美国高薪挖角中国AI人才,中国科技能否守擂成功并持续领跑?
这些华人都是AI界的顶尖人才,在OpenAI公司负责的也是核心岗位,为了把这些人挖走,扎克伯格亲自给这些人写邀请信,还约他们一块出来吃饭以表示对人才的重视。 而且中国国内并不是没有人才了,研发出DeepSe…

2025-10-12

数智赋能版权未来,2025版博会AI展区解锁创新发展新图景
本届版博会将于2025年10月16日至18日在青岛举办,以“数智引领未来,版权创新发展”为主题,聚焦版权创造、运用、保护、管理和服务全链条。 从生活场景的智能化渗透,到版权产业的数智化转型,再到青少年创新能力…

2025-10-12

深圳机器人“大显身手”:从工厂到生活,产业活力全面迸发
乐聚机器人副总裁吴雨璁介绍道:“深圳硬件工业体系成熟,零件供应效率十分高,有时候甚至可以做到上午出设计图下午零件就能制作出来,这对机器人产业来说是非常大的支持。” 优必选聚焦工业制造、商用服务、家庭陪伴三大场…

2025-10-12