ISC.AI 2025上海大模型安全论坛暨大模型安全卫士产品发布会日前在外滩FTC国际会议中心举行。此次发布的360大模型安全卫士，依托"安全+AI"双轮驱动战略，构建了覆盖大模型全生命周期的智能防护体系，标志着我国在人工智能安全领域迈出关键一步。
随着生成式AI技术突破性发展，智能体应用已渗透至金融、医疗、政务等关键领域。但360集团创始人周鸿祎在主题演讲中警示，AI技术正面临"技术双刃剑"效应：恶意代码注入、深度伪造内容、模型幻觉偏差等新型威胁层出不穷，导致企业核心数据资产暴露风险激增。据研究机构测算，未受保护的AI系统遭受网络攻击的概率是传统系统的3.2倍。
针对传统安全方案"重防护轻治理"的弊端，360数字安全集团副总裁余凯提出"以模制模"的创新理念。该方案通过四大智能体矩阵实现精准防御：内容安全智能体构建五级防护体系，可识别120余类风险场景；AI Agent安全智能体采用动态权限沙箱技术，防止智能体执行越权操作；幻觉抑制智能体通过多模态验证机制，将模型输出误差率降低67%；软件安全智能体实现全链条漏洞追踪，覆盖模型训练到部署的23个关键节点。
在技术架构层面，该产品创新性整合安全大模型与终端探针系统，形成"端-边-云"协同防护网络。通过实时采集超过2000个安全指标，结合深度学习算法进行威胁建模，可提前48小时预警潜在攻击。特别在政务场景应用中，系统日均拦截违规内容1200余次，智能代答准确率达99.3%，有效保障了智慧政务系统的安全运行。
实践数据显示，该产品在360自有AI算力集群的部署成效显著：日均守护1.5万张GPU卡组成的超算中心，拦截针对3000P算力资源的异常访问请求超万次。在开源模型安全加固方面，通过注入安全知识图谱，使模型对抗样本防御能力提升28%。某国家级监管平台接入系统后，完成对8个备案大模型的132项安全评估，形成百万级规模的评测数据库。
作为人工智能安全国家标准的核心制定单位，360已牵头完成4项大模型安全团体标准编制。其构建的"AI安全生态联盟"已吸引68家科研机构和企业加入，推动形成全球首个AI安全能力成熟度模型。该产品的市场化应用将优先覆盖金融、医疗等高风险领域，为行业提供从模型训练到应用部署的全栈式安全解决方案。
