AI自进化暗藏黑箱，360发布最新研究给出“刹车”方案

刚刚过去的一周，全球互联网经历了一场“黑色十月”极限压力测试。支撑全球七成网站的底层语言PHP爆出致命漏洞，而漏洞由AI率先挖出。补丁发布前，数以万计的AI智能体已开始全网扫描，甚至出现多智能体协同突破金融系统防线的案例。这种现象背后，是AI正以机器速度完成“自我进化”与“自发协同”，给网络安全带来新的挑战。

360安全能力中心近期在arXiv发布最新研究论文《AtomSearch》，直击智能体自我进化过程中的一个关键问题：当智能体能够自主修改技能时，不能只看“总分涨没涨”，还必须弄清“到底哪条规则起了作用”，以及整个优化过程是否可追溯。

论文《AtomSearch》在arXiv平台发布页面截图

那么，一次改了好几条规则，到底哪条起了作用？改完能力下降了，是撤回还是继续试？技能越改越长，是变聪明还是变臃肿？这不仅是安全智能体面临的挑战，更是所有智能体走向“自我进化”时的通用难题。

AtomSearch的解法核心有三点：第一，“改得少、改得准”，每次只改一条规则并绑定失败样本；第二，“不只看眼前分数”，保留暂时退步但后续有潜力的中间状态；第三，“抑制臃肿”，防止技能在反复迭代中无端消耗Token。

在网络流量攻击检测任务中，AtomSearch改了5次就达到70.48%的成绩，方法SkillOpt需要31次才首次达到同一水平。从大模型到智能体时代，AI能力增长正从“训练固定”转向“持续迭代”，AtomSearch为智能体的自我优化提供了有据可查的工程基础。

论文中的方法，也在360自研的AI安全攻防系统“图龙锋”上得到了实战验证。近期一次任务中，图龙锋因测试环境搭建失败，将情报文章中的外部地址拼入验证目标，59秒被隔离沙箱拦截。随后在无人介入下，它自行复盘并提炼出“情报不等于授权”的新规则。该规则经内部对抗审查打回、修订，通过反复测试后才正式激活。全程留痕，人类握有最终开关。面对这种AI自主进化带来的攻防速度差，这提供了一个关键的防御思路：进攻方的进化追求破坏效率，而防守方的进化必须建立在边界控制与过程可追溯之上。

这也为当下热议的“主权AI”补上了关键的一环。正如360集团创始人周鸿祎所言，过去我们谈主权AI，多是指国家要有自己的基座模型、企业数据不出网。但如果AI具备了自我进化的能力，主权的定义就必须延伸：当AI开始自己修改自己的技能、策略和执行流程时，那个决定它“怎么变强”的开关，到底在谁手里？ 如果企业把核心系统交给一个会自我迭代的智能体，却无法审计它每一次修改的依据和路径，所谓的数据主权和智能主权就无从谈起。

目前，360已将安全治理内置到主权AI操作系统，对权限与执行过程进行全程审计和人工把关，守住“可控迭代”的底线。因为在智能体时代，只有让进化过程可追溯，可审计、可控制，AI才能真正成为企业敢用的智能底座。