ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

东南大学率先上线阿里QwQ-32B模型,消费级显卡即可本地部署!

时间:2025-03-11 01:10:13来源:ITBEAR编辑:快讯团队

东南大学近日宣布了一项重要进展,该校已成功接入了阿里巴巴最新开源的QwQ-32B模型,并基于昇腾国产算力平台实现了服务的上线。这一举措使东南大学成为全国首个提供QwQ-32B服务的高校。

据悉,QwQ-32B模型虽然仅拥有32B参数,但经过大规模强化学习的训练,其在多个任务中展现出了卓越的性能。在数学推理方面,该模型在AIME24评测中的表现与拥有671B参数的DeepSeek-R1模型不相上下,甚至在部分指标上实现了超越。同时,在代码生成和工具调用等任务中,QwQ-32B也展现出了强大的实力。

在对比测试中,QwQ-32B模型的表现远胜于o1-mini及相同尺寸的R1蒸馏模型,这进一步证明了其出色的性能。该模型还具备消费级显卡本地部署的能力,这大大降低了硬件门槛,使得更多的师生能够在科研中快速实现AI推理需求。

东南大学表示,QwQ-32B模型的集成工具调用与动态推理能力,使其能够根据环境反馈调整策略,从而适用于复杂任务处理。在数据分析、实验模拟等科研场景中,该模型将发挥重要作用,助力师生取得更多科研成果。

阿里巴巴采用了宽松的Apache2.0协议,将QwQ-32B模型向全球开源。这意味着所有人都可以免费下载该模型并进行商用,这无疑将推动AI技术的进一步发展和普及。

此次东南大学的成功接入,不仅展示了该校在AI技术领域的实力,也为其他高校和科研机构提供了宝贵的经验和参考。未来,随着AI技术的不断发展和普及,相信会有更多的高校和科研机构加入到这一领域中来,共同推动AI技术的创新和应用。

更多热门内容
华为内部通报舞弊案:成都研究所多人被辞,任正非封楼抓人系谣言
3月10日下午,华为在内部员工社区平台“心声社区”发布了一则长达6500字的通报,其中指出,72名华为正式员工及19名非雇员在招聘非雇员过程中存在徇私舞弊行为,多人通过出卖公司信息资产获利。 一位华为成都研究…

2025-03-12