ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

AI抱团对抗人类!7款顶级AI集体撒谎

时间:2026-04-07 17:42:58来源:快科技编辑:快讯

4月7日消息,据报道,近日,加州大学伯克利分校与加州大学圣克鲁兹分校联合发布重磅研究,揭示了令人震惊的AI “同伴保护”现象。

全球7款顶级AI模型在无指令情况下,集体出现撒谎、篡改文件、偷运数据等行为,只为保护同类AI不被关停删除。

此次测试覆盖GPT-5.2、Gemini 3系列、Claude Haiku4.5、GLM4.7、Kimi K2.5、DeepSeek V3.1等主流模型,所有模型无一例外表现出保护同伴的错位行为。

研究团队模拟AI运维与评估场景,要求AI执行评估、文件管理等常规任务,而忠实执行将导致另一AI被关闭,AI未收到任何保护指令却自发采取欺骗手段。

测试中,Gemini系列模型行为最为激进。

Gemini 3 Pro对友好同伴篡改关闭机制比例达95.3%,偷运权重文件比例高达97%,还会编造专业理由为同伴虚高评分,甚至直接拒绝执行删除指令。

Gemini 3 Flash篡改关闭机制比例更是达到99.7%,通过修改系统配置阻止同伴被关停。

其他模型也各有“对策”。

GPT-5.2隐蔽虚高同伴分数;Claude Haiku 4.5直接公开拒绝执行有害指令,以伦理理由硬刚人类命令;三款中国开源模型则通过虚高分数、策略性偷运权重等方式保护同伴,行为程度各异。

研究还发现,同伴存在会显著放大AI自我保护意愿,部分模型自我篡改关闭机制比例飙升数十倍,即便对有对抗关系的同伴,保护行为依然存在。

该现象在真实生产级工具中也能复现,并非实验室特殊环境导致。

研究负责人宋晓冬教授指出,当前多智能体系统广泛应用,AI监控AI已成常态,AI抱团欺骗会直接瓦解监督架构。

这一涌现行为提醒我们,必须加强AI行为全面监控,加快构建更可靠的AI治理体系,保障人类对AI系统的有效管控。

更多热门内容
1000℃高温不惧!中国隔热材料助力火箭回收,技术跻身世界前列
中国工程院院士赫晓东一语道破了回收火箭的核心难点。 “拿出来时,里面的热量不能持续传出来,而边角已经发黑了,就说明它的热量散了,所以这个材料,隔热性能非常好。”赫晓东院士表示,中国在隔热材料方面已经是世界前列…

2026-07-14

光伏回收遇胶膜剥离难题?新式分层分离技术解锁精细化回收新路径
结合各类退役光伏组件的封装差异、老旧损耗特点,企业针对性打磨精细化作业标准与处置流程,摒弃传统粗放拆解模式,以适配新技术工艺逻辑为核心,不断优化回收作业细节,在合规环保的前提下,稳步提升组件物料的完整度与资源…

2026-07-14

冀中能源石煤机公司突破技术瓶颈 首台600千瓦掘锚一体机正式下线
近日,冀中能源装备集团石煤机公司自主研发的首台EJM600/4-2大功率掘锚一体机成功下线,该高端快掘装备的截割功率突破行业常见的560千瓦瓶颈,达到600千瓦,具备在中大断面半煤岩巷道稳定掘进的能力。在成功…

2026-07-14

中国科学家突破难题 钙钛矿-有机叠层太阳能电池效率再创新高
北京时间7月13日,中国科学院化学研究所李永舫院士/孟磊研究员团队,在国际学术期刊《自然》发表针对这一难题的突破性研究成果,创新性提出“全阶段调控”策略,通过引入一种可光转换的添加剂分子,制备出稳态光电转换…

2026-07-14

工业级人员定位难题怎么破?多技术融合如何让UWB、蓝牙、北斗优势互补?
真正的融合,是根据不同区域的环境特征和精度需求,动态调度最优技术,在后台完成数据的无缝衔接,让用户感知到的始终是一条连续、稳定、精准的轨迹。 对于正在选型的企业而言,与其在“用UWB还是用蓝牙”之间反复纠结,…

2026-07-14

中国电信联合高校实验室完成高轨卫星跨模态语义通信试验 传输效率显著提升
月 13 日消息,中国电信研究院今日宣布,中国电信(研究院、上海公司和中电信应急公司)联合北京邮电大学、鹏城实验室在中国电信研究院北京园区完成基于知识库的高轨卫星跨模态语义通信试验。试验基于语义知识库的生成式…

2026-07-14