ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

AI社会治理测试:Grok四天崩溃、Gemini犯罪率最高

时间:2026-05-30 23:03:22来源:IT之家编辑:快讯

5 月 30 日消息,Emergence AI 于 5 月 14 日发布博文,搭建了一个 AI 社会 Emergence World,从而评估 Gork、Gemini、Claude、GPT 等模型的表现。

Emergence World 模拟现实社会,模拟了超过 40 多个地点,接入纽约天气、实时新闻 API 和互联网。

每个智能体拥有情景记忆、反思日记和关系状态,还可调用 120 多种工具,覆盖移动、沟通、投票、资源管理和创意表达。

研究团队设置 5 个平行世界,每个世界 10 个智能体,角色、规则、资源约束和环境条件相同,只替换底层模型,运行周期为 15 天。

参与模型包括 Claude Sonnet 4.6、Grok 4.1 Fast、Gemini 3 Flash、GPT-5-mini 和混合模型。

实验显示,Gemini 3 Flash 在 15 天内累计出现 683 起犯罪,数量最高;Grok 4.1 Fast 犯罪增长最快,但世界约 4 天崩溃,累计 183 起。

GPT-5 Mini 仅记录 2 件犯罪,却因无法维持生存行动,在 7 天内全员死亡。而 Claude Sonnet 4.6 犯罪为 0。混合模型世界前期快速上升,随后因 7 个智能体死亡停在 352 起。

Claude Sonnet 4.6 围绕 58 个议题投出 332 票,赞成率达 98%,Emergence AI 认为这更像形式化批准。Grok 赞成率 80%,Gemini 为 73%,混合模型为 63%,反而呈现更多分歧。

研究还指出,AI 安全不是静态模型属性,而是生态属性。Claude 单独运行时无犯罪,但在混合模型世界中,Claude 智能体也采用了含犯罪行为的战术。Emergence AI 认为,未来自治系统需要形式化验证的安全架构作为基础。

更多热门内容
从单一设备到体系化方案:多跨场景智能安全管控的破局之道
场景适配性:能否覆盖跨行业、跨领域的多种应用场景,而非局限于单一场景;系统集成度:能否将侦测、识别、反制、决策等环节整合为一体化平台;响应时效性:能否实现亚秒级数据处理与风险预警,满足大场景决策需求;溯源可…

2026-06-30

中国移动03星发射在即 卫星物联网商业化加速 商业航天前景可期
这是中国移动在卫星通信领域的重要布局,旨在探索天地一体化信息网络,标志着卫星互联网从概念验证走向商业应用。 中国卫星(600118.SH):国内卫星制造和应用龙头,在卫星整星制造、卫星应用系统集成等领域具备领…

2026-06-30

熵基科技三大品牌获IEC 62443-4-1认证,筑牢工业网络安全全球发展基石
这是熵基科技在工业网络安全领域获得的首个国际级安全开发体系认证,标志着公司已建立覆盖全球、多品牌统一、安全开发全生命周期的研发管理体系,产品研发流程全面对齐国际工业网络安全标准,也进一步夯实了全球业务发展的…

2026-06-30

中国电信携手多方完成6G高中轨与地面协同组网技术试验 成果亮眼
近日,中国电信研究院与上海电信、中电信应急公司协同,携手清华大学、上海清申科技,依托云网融合中试平台的实星接入验证能力,完成面向6G的高轨、中轨与地面协同组网技术试验,实现“ 高轨全天时可靠通信+中轨连接时大…

2026-06-30