ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

美机构CAISI测评:DeepSeek V4成国产最强 性能与前沿模型存8个月差距

时间:2026-05-05 02:16:42来源:互联网编辑:快讯

美国权威机构CAISI(隶属于商务部)近期对全球多款主流大模型展开深度测评,其独立性与专业性引发行业关注。区别于部分机构可能存在的“刷榜”争议,CAISI通过采用未公开的独立基准测试,有效规避了数据泄露风险,为模型能力评估提供了更客观的参考框架。

测评结果显示,中国大模型DeepSeek V4 Pro在网络安全、软件工程、自然科学、抽象推理及数学五大领域的综合表现,位列中国模型首位。但与当前行业标杆GPT-5.5相比,其整体能力存在约8个月的差距。这一结论基于CAISI独创的测算方法——将项目反应理论(IRT)迁移至AI领域,通过模型在多项基准任务中的表现,量化推算其相对能力水平。

在具体基准测试中,DeepSeek V4 Pro展现出差异化竞争力。例如,在ARC-AGI-2半私有数据集和CAISI自研的PortBench软件工程测评中,该模型虽落后于西方顶尖模型,但在部分推理类任务中表现优于部分公开数据集测试结果。值得注意的是,CAISI的测评体系包含两项未公开的独立基准,这被视为防止模型“针对性优化”的关键设计。

成本效益分析成为本次测评的亮点。以GPT-5.4 mini作为参照模型,DeepSeek V4 Pro在7项基准测试中,有5项的单位任务成本更低。具体数据显示,其成本区间较参照模型最低可节省53%,最高则高出41%。这一对比基于两家官方公布的token定价,且仅统计双方均正确完成的任务,确保了数据可比性。

针对模型“刷榜”现象,CAISI报告特别指出行业存在的数据污染问题。以Llama 4事件为例,某模型被曝通过将测试集数据混入训练集提升分数,甚至出现公开版本与竞技场版本性能不一致的情况。CAISI强调,其采用的半私有数据集和自研基准,从源头上杜绝了此类作弊可能。

测评报告同时揭示了模型能力评估的复杂性。DeepSeek官方技术报告显示,其模型在多项基准中与西方顶尖模型持平,但CAISI的独立测评却得出不同结论。这种差异源于测评基准的选择——当纳入未公开的独立测试时,模型的真实能力边界得以更清晰地呈现。

在软件工程领域,PortBench基准测试要求模型完成代码生成、漏洞修复等复杂任务。测评发现,DeepSeek V4 Pro在处理多文件协同修改时表现突出,但在需要深度逻辑推理的场景中仍落后于GPT-5.5。网络安全基准CTF-Archive-Diamond的测试结果则显示,该模型在逆向工程任务中的准确率较西方模型低12个百分点。

行业专家指出,CAISI的测评方法为AI领域树立了新标杆。其通过构建多维度、跨领域的评估体系,不仅关注模型在公开数据集的表现,更重视其在实际应用场景中的泛化能力。这种评估逻辑正推动大模型竞争从“参数竞赛”转向“真实能力比拼”。

更多热门内容
壁仞科技NPO光互连方案:1024卡超节点引领国产算力集群新变革
集微网认为,从产业发展维度,壁仞科技NPO超节点方案具备多重价值:其一,电互连扩容已遇物理瓶颈,成熟NPO商用方案推动智算中心向全光互连转型,削减集群通信时延与能耗;其二搭建自主可控开放算力底座,全栈自研软…

2026-07-21

“新声归潮 AI上海”对接会:海内外人才共聚,探上海AI产业新路径
大家在“AI上海”主题演讲、“新声归潮”科技对话、“AI+未来产业”创业项目路演对接、参访大会展览四大活动板块中,共探上海人工智能产业高质量发展新路径。 据悉,本次活动由上海市侨界专业人士联谊会、上海市徐汇海…

2026-07-21

2026世界人工智能大会:AI智能体崛起 具身智能商用 产业应用落地生花
记者体验了关注度颇高的首款AI智能体手机,只需一句话就能让AI跨应用执行订酒店、买车票、路线规划等任务。从AI视觉质检、AI辅助诊断、AI影视制作新范式,到低碳节能AI调度系统,一个个覆盖AI全产业落地的场…

2026-07-21

AI连接世界:一场大会汇聚全球智慧,共绘人工智能未来新蓝图
世界人工智能大会把大企业和小团队、大模型和机器人、产品和用户串在了一起。非洲有大量真实需求,双方合作,可以把这些技术变成解决实际问题的方案。在本届大会上,技术能够跨越国界,需求能够得到回应,处在人工智能不同…

2026-07-21

2026世界人工智能大会闭幕:意向采购破200亿 重点项目签约超409亿
7月20日下午,2026世界人工智能大会暨人工智能全球治理高级别会议闭幕式在上海世博中心举行。一批上海市人工智能重点项目集中签约,包含AI基础设施、具身智能、科学智能、智能体应用等领域的32个项目,投资额超过…

2026-07-21

WAIC盛会启幕 猿辅导AI大阅读亮相 以科技之力点亮青少年深度阅读新未来
这是该集团在AI技术落地青少年深度阅读场景的一次重要突破,也是企业践行“让AI成为启发思考的伙伴,而非替代思考的工具”这一核心理念的里程碑式产品。未来,猿辅导集团将持续加大在人工智能领域的研发投入与技术探索,…

2026-07-21