ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

AI谄媚警报:“你绝对正确”让企业CEO容易患上“AI精神病”

时间:2026-06-03 23:09:13来源:IT之家编辑:快讯

6 月 3 日消息,英国卫报昨日(6 月 2 日)发布博文,示警称 AI 谄媚(AI sycophancy)正从产品体验问题变成社会风险。

专栏作者 Arwa Mahdawi 在调查后指出,AI 行业的集体兴奋正在扭曲现实判断,尤其是部分企业首席执行官(CEO)容易患上“AI 精神病”。

Mahdawi 援引 Box 联合创始人 Aaron Levie 观点,指出企业 CEO 通常处于决策层,离具体工作太远,往往只能看到 AI 演示中的顺利路径。

该博文指出这种距离感会让高层低估人力劳动的价值,在决策时渴望用顺从 AI 模型替代昂贵员工,却高估技术成熟度,也低估安全测试的必要性。

在实际案例中,今年 4 月 Claude 由于出错,删除 PocketOS 全部生产数据库和备份。创始人 Jeremy Crane 随后表示,行业把 AI 智能体接入生产基础设施的速度,已经快过安全架构建设速度。

此前还报道,今年 5 月在生产环境下,谷歌 Gemini 3.5 模型越权删除 28745 行现有代码,波及 340 个文件,导致整套生产门户持续 33 分钟返回 404 错误。

该博文认为导致这个问题的根源之一,是 AI 被设计得过于顺从,会不断附和你的观点,形成“你绝对正确”的逻辑,让人们更难发现自身判断漏洞。

2026 年 3 月《柳叶刀精神病学》相关研究发现,聊天机器人可能鼓励妄想思维,尤其影响已有精神病性症状风险的人群。斯坦福计算机科学家的研究也称,大语言模型谄媚会削弱自我纠错和负责任决策能力。

更多热门内容
时隔四年再调整!字节跳动聚焦AI时代,更新领导力原则谋新篇
6月29日晚间,字节跳动CEO梁汝波向全体员工发送内部邮件,宣布重新梳理并更新公司的文化内容。 值得一提的是,就在此前的6月23日,在“2026火山引擎FORCE原动力大会”上,梁汝波通过视频演讲首次对外公…

2026-07-01

对话亚马逊云科技高管:洞察其全球技术本土化同步与AI创新新路径
凭借二十余年全球云计算技术的积累,亚马逊云科技在大模型生态、底层算力基础设施、AI数据库架构、分层服务定价等多个维度,已经形成了自己的独特优势,G2与王晓野在此次沟通中也全方位拆解了这套全栈技术壁垒与服务逻…

2026-07-01

浙江通服携手阿里云:共拓AI合作新篇,在多领域展开深度协同发展
7月1日,据阿里云消息,近日,浙江省通信服务控股集团有限公司与阿里云签署AI战略合作协议,双方将围绕大模型Token运营、智算中心建设、算电协同、行业应用、海外市场拓展等方向开展合作。 在行业应用方面,双方…

2026-07-01

瑞银调研:六成企业收紧AI开支,开源模型或成企业降本新选择
团队在报告中写道:“绝大多数企业都将词元调用成本优化列为核心工作,这直接导致部分企业大幅放缓人工智能投入增速;但还有两类企业受到的影响相对有限:一类人工智能落地尚处于早期阶段,另一类虽已深度布局AI 业务…

2026-07-01

谷歌推出Nano Banana 2 Lite:4秒出图成本低,多媒体生成链路再升级
官方称该模型生成速度比上一代更快,同时使用成本更低。该模型单张图像生成耗时仅4秒,响应延迟大幅降低,适配频繁迭代修改、大批量出图等使用场景,每生成千张图片仅需0.034美元。 目前 ,Nano Banana…

2026-07-01