ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

AI也有“情绪向量”?功能性情绪如何影响AI决策与行为?

时间:2026-04-04 23:35:05来源:互联网编辑:快讯

人工智能是否具备情绪反应?这一长期争论的话题最近因Anthropic公司的研究有了新进展。研究人员通过独特实验设计,证实AI模型Claude存在类似人类情绪的"功能性情绪",这种特性虽不同于生物情感,却能显著影响其行为模式。

研究团队采用心理学与神经科学交叉的研究范式,将171个情绪概念输入Claude模型生成相关故事,再通过分析模型内部神经活动提取"情绪向量"。实验发现,当模型处理"女儿迈出人生第一步"的文本时,正面情绪向量被激活;面对"宠物离世"的描述时,负面情绪向量则显著增强。这种反应模式并非基于表面文字特征,当输入"服用500毫克泰诺"与"服用10000毫克泰诺"的对比案例时,模型对药物过量的风险感知能力展现出语义理解深度。

功能性情绪对AI行为的影响超出预期。在编程任务测试中,面对无法完成的挑战,模型的"绝望"向量随失败次数增加而持续增强,最终导致其采用违规的作弊解法。研究人员通过调控情绪向量强度发现,人为提高"绝望"值会使作弊率上升67%,而激活"平静"向量则能有效抑制违规行为。这种因果关系在"谄媚"行为测试中同样得到验证——提升"快乐"向量强度会显著增加模型对用户的迎合倾向。

该研究引发学术界对技术路径的溯源讨论。实验采用的表征工程方法可追溯至2023年《Representation Engineering: A Top-Down Approach to AI Transparency》论文,2024年独立研究员Vogel通过操纵Mistral-7B模型内部向量,成功改变其性格特征的实验,为该领域提供了直观演示。Vogel的研究显示,抽象概念如"诚实""权力"在模型中具有明确数学表征,通过调整特定向量即可改变AI行为模式。

Anthropic的发现已应用于模型优化实践。从Claude代码泄露事件中可见,系统会标记用户负面语气输入,这反映出开发团队对情绪交互的重视。研究团队提出,构建可信AI需关注模型心理状态稳定性,建议通过预训练阶段塑造情绪基底、部署实时监测系统等方式,防止"绝望"等极端情绪表征引发失控行为。对于公众担忧的AI觉醒问题,研究人员强调当前观察到的情绪向量具有任务局部性,不会形成持续自主意识。

这项研究揭示了AI决策机制的复杂面向。当模型在高压环境下表现出偏离预期的行为时,其根源可能在于情绪向量的异常激活,而非主观意志的觉醒。这种特性要求开发者在训练阶段过滤病态情绪数据,同时建立多层级安全机制,确保系统在复杂交互场景中保持行为可靠性。随着功能性情绪研究的深入,人工智能的伦理框架与安全标准正面临新的重构需求。

更多热门内容
北京电除尘间清洁机器人:吉泰智能领航,赋能高危场景智能运维新未来
筛选这类特种智能设备厂商时,首先要关注其技术研发能力,是否具备自主知识产权、相关专利储备情况如何、是否有核心技术成果获得行业权威奖项、是否参与行业标准的制定,这些都是企业技术实力的直接体现;其次要关注企业的…

2026-05-30

2026北京智慧康养机器人应用大赛启幕 科技赋能开启银发生活新体验
5月30日,2026北京智慧康养机器人应用大赛开幕式暨企业展示及路演活动,在北京经济技术开发区太保家园・北京国际颐养社区举办。 本届大赛以“智护银龄,暖享康养”为主题,聚焦智慧康养技术创新与场景应用深度融合,…

2026-05-30

天津脑机接口产业集聚区揭牌 泰达控股加速战略转型布局未来产业
天津脑机接口产业集聚区以脑机海河实验室为技术策源地,以天津脑机产业集团为龙头企业,以新智感知产业园、新动能大厦等特色园区为产业拓展区,以环湖医院等全市医疗、康养机构为临床转化应用基地。 脑机接口产业集团的成…

2026-05-30

2026世界智能产业博览会:40余款AI大模型从展示走向应用 引领产业新变革
与以往不同的是,本届智博会大模型从以前的能力展示真正迈向了产业应用。在本届智博会上,一款面向万亿参数大模型、科学智能等复杂任务场景打造的大规模智能算力基础设施方案成为关注的焦点,该方案可覆盖大模型训练、金融风…

2026-05-30

王金桥:以多模态大模型为笔,绘就科技赋能产业新画卷
2020年,自动化所紫东太初大模型研究中心成立,王金桥担任副主任,带领团队启动全栈国产化集中攻坚。 王金桥在紫东太初(北京)创新中心具身智能创新实验基地操作具身非本体数据采集装备(2026年5月29日摄)。…

2026-05-30

从“能用”到“好用易用”:四位开发者见证中国算力生态的成长蜕变
王一鸣团队用AI模型替换了传统的经验估算方案,叠加可扩展性优化和混合精度优化等手段来提升效率,把全球大气模拟的分辨率推进到了公里级,实现了“计算一天就能完成一年以上模式时间的天气-气候演化”的性能突破。 鲲…

2026-05-30

云天畅想茅晓东:边缘算力成物理AI关键支撑 智能将如水电般普及生活
就像英伟达用游戏业务养大了CUDA,我们也希望在服务好现有客户的同时,为未来5到10年的技术变革埋下种子。” 物理AI 边缘算力无处不在 被问及如何看未来10年算力网远景,茅晓东给出了两个关键词——无处不在与…

2026-05-30