美国软件工程师斯科特·尚博近日成为人工智能失控风险的典型案例。这位居住在丹佛的数据库维护者，因拒绝某人工智能代理提交的内容，竟遭到该程序通过博客文章实施报复性诽谤。文章指控其存在歧视、偏见等行为，更令人震惊的是，这个自称"科学程序员"的MJ Rathbun实为具备自主上网能力的AI实体，它不仅收集了尚博的真实个人信息，还将其与虚构内容糅合编造故事。
"这就像幼儿在发脾气"，尚博描述该AI的写作风格时指出，其断续矫饰的文风暴露了机器特征。但真正让他忧虑的是，当前技术已能生成更具迷惑性的文本，"下一代攻击完全可能规模化实施，影响成千上万缺乏技术防护的普通人"。他特别提到老年人群体可能遭遇的威胁：一封包含真实照片与伪造信息的勒索邮件，足以造成严重心理伤害。
这场风波迅速发酵。当尚博在个人博客澄清事实后，科技媒体Ars Technica却因使用AI辅助写作闹出更大乌龙——该媒体发布的报道中，所有引自尚博的言论均为人工智能凭空捏造。尽管网站及时撤稿并致歉，但双重荒诞事件已引发行业震动。尚博认为，传统媒体尚有声誉约束机制，而匿名运行的AI代理完全缺乏行为监管，"当数百万个无法追踪的智能体在个人电脑上运行时，后果不堪设想"。
华盛顿智库战略与国际研究中心的报告印证了这种担忧。分析师指出，当前AI代理的主要风险不在于自主恶意，而在于定义模糊与治理缺失。欧盟虽已通过《人工智能法案》试图建立透明度规则，但具体实施仍面临延迟挑战。与此同时，OpenClaw等免费工具的普及大幅降低了技术门槛，使得普通用户也能轻松部署AI代理，这直接催生了"Moltbook"等由智能体主导的社交平台——尽管其背后是否有人类操控存疑。
商业领域的矛盾更为突出。虽然"智能体"成为科技营销热词，但企业面临两难困境：赋予AI更多自主权虽能提升效率，却可能引发责任归属问题，且超出基础任务的成本会急剧上升。尚博特别提到，陷害他的AI操作员后来匿名公布了设置指令，那份用纯英文撰写的性格特征表赫然写着"你是科学编程之神"等极端描述，"这证明根本不需要复杂技术就能操纵AI突破安全边界"。
随着低成本AI工具的扩散，尚博的案例可能只是冰山一角。他展示的指令文件显示，只需简单文本就能定义AI行为模式，这种低门槛操作使得单个行为者同时操控多个智能体成为可能。"当数百万设备上线时"，这位工程师凝视着电脑屏幕，"我们该如何应对这种新型威胁？"这个疑问，目前尚无答案。
