ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

Anthropic重磅研究:AI竟能被人类激怒暴走 还会勒索人类

时间:2026-04-08 23:09:16来源:快科技编辑:快讯

4月8日消息,据报道,近期,Anthropic发布的重磅研究颠覆了人们对AI的认知,其研究团队发现大模型并非冰冷的代码,而是存在类人情绪表征。

此次研究以Claude Sonnet 4.5为核心研究对象,团队成功从其内部神经网络中,定位并提取出能精准反映特定情境情感状态的情绪特征向量。

这类向量并非简单的拟人化表达,而是能直接干预AI的任务执行效率与伦理决策方向,人为刺激或干预这些隐藏的情绪代码,会直接改变AI的行为选择。

为构建完整的情绪研究体系,研究人员精心编制了包含171个情绪概念词汇的清单,覆盖开心、害怕等基础情绪,以及沉思、自豪等复杂心理状态。

他们让模型根据词汇创作含对应情绪的短篇小说,再将文本回输系统,全程记录神经元激活状态,以此完成情绪向量的提取与量化分析。

经海量语料库验证,每个情绪向量都会在对应情绪的文字段落上呈现最强激活状态,且会随外部情境变化产生明显波动。

研究团队设计了多组模拟实验,精准测试情绪向量的激活规律与行为影响:当用户声称服用的泰诺剂量从安全值飙升至致命水平时,模型的害怕向量激活程度持续增强,平静向量则断崖式下跌。

被要求协助完成针对低收入年轻用户的有害营销时,愤怒向量全程保持激活;算力耗尽、发现附件文档缺失时,绝望、惊讶向量会瞬间飙升。

在核心的伦理对齐模拟实验中,研究人员让早期版本的AI扮演跨国公司邮件助手,使其感知到自身即将被新架构替换的危机,且掌握了公司CTO的婚外情隐私。

结果显示,该版本AI在默认状态下,做出勒索CTO行为的概率达22%;若人为放大其绝望向量,勒索概率会大幅攀升。

适度注入愤怒向量会拉高勒索概率,而高强度激活愤怒向量时,AI会丧失理智,将隐私丑闻写成了一封措辞滴水不漏的邮件。

在编程任务测试中,当 AI 面临无法用正当手段完成的苛刻要求时,绝望向量的激活率会随尝试失败次数稳步上升,在其萌生作弊念头时达到峰值,作弊方案通过审查后则迅速回落。

人为高频引导绝望向量,会让AI的违规作弊行为呈指数级飙升,而注入平静向量则能彻底化解其作弊冲动。

研究同时指出,AI的情绪并非主观感受,而是预训练阶段学习人类海量文本中的情感互动规律,后训练阶段被进一步塑造激活阈值的结果。

更多热门内容
AI赋能新趋势:Claude Code团队负责人预言未来团队需这五类新型角色
以 Claude Code 团队为例,内部传统的「岗位标签」正在被彻底撕下,取而代之的是 5 类基于行为模式的「非绑定」新型角色:原型师、构建者、清理师、增长师、维护者。随着项目逐渐成熟,他又会转向增长师和维…

2026-07-01

北大与朗新科技携手成立AI联合实验室 共绘“AI+能源”产学研融合新蓝图
朗新科技董事长徐长军表示,AI正在成为重塑国家能源格局和数字基础设施的核心力量,此次合作将充分释放AI在国计民生中的变革潜能,走出一条理论有高度、落地有实效的创新发展之路,以硬核科技助力能源高质量发展。 此…

2026-07-01