在2025年世界人工智能大会的高级别会议上，上海成为了全球关注的焦点。特别是在“有益、安全、公平”为主题的人工智能向善分论坛上，国家网信办网络管理技术局局长于永河透露了一系列重要数据。目前，已有474款大型人工智能模型完成了备案，另有247款大模型的应用或功能成功登记，这些大模型应用的注册用户总数已经突破了30亿大关。
本次论坛的现场汇聚了众多行业专家和学者，共同探讨人工智能的未来发展路径。于永河局长的发言与《生成式人工智能服务管理暂行办法》密切相关。该办法于2023年7月由国家网信办等七部门联合发布，旨在应对生成式人工智能带来的风险挑战，确保相关服务的安全性和可控性。
近年来，生成式人工智能和深度合成技术的迅猛发展，虽然为信息的生成和合成提供了极大的便利，但同时也带来了虚假信息泛滥、深度伪造和欺诈等风险。为了应对这些挑战，国家相关部门出台了一系列规章，明确规定了网络服务提供者对AI生成合成内容的标识义务。
针对“眼见不为实”的信任危机，国家网信办网络管理技术局联合多部门，于今年3月发布了《人工智能生成合成内容标识办法》，并同步实施了配套的强制性国家标准。这一举措旨在通过标识手段，完善人工智能的全生命周期治理，推动产业的健康有序发展。
于永河在会上详细介绍了《标识办法》的制定思路和实施策略。他强调，全周期管理方案需要充分考量当前人工智能产业的发展现状，避免给企业增加不必要的成本。因此，该方案并未对添加数字水印及识别作强制性要求，而是采用了嵌入源数据的技术手段添加隐式标识，实现了生成合成内容的可监督、可溯源。
在标识方法上，《标识办法》也进行了创新。对于文字内容，参照了注册商标的TM标识和3C认证标识，采用了文字角标形式的显式标识。对于音频内容，则使用了通用的“摩斯码”式标识，以减少对用户的干扰。同时，鼓励内容传播服务提供者提升生成合成内容的识别能力，及时标注出疑似内容，避免误标和漏标。
于永河还介绍了全链条标识治理的理念。从内容制作、内容传播到功能使用，每一个环节都需要进行标识管理。在内容生成阶段，制作平台需嵌入隐式标识，记录相关信息；在内容传播阶段，传播平台需承担主动核验责任，对未合规标识的内容进行拦截或补充标注；在应用分发阶段，应用程序分发平台需严格审查标识相关材料，确保上架的应用具备规范标识的能力。
为了构建完善的治理框架，国家网信办还在积极制定包括管理办法、技术强标和实践指南在内的全体系内容。据透露，近期将发布涉及文本、图片、音频、视频各模态的元数据标注方法、元数据安全防护方法以及生成合成内容检测方法等6项实践指南。
