在近日举办的Xcon安全峰会上，联想全球安全实验室专家张嘉琦以“虚拟人格的安全边界——AI数字人生态攻防”为主题，系统剖析了数字人产业快速扩张背后的安全挑战。据统计，2017至2025年间，中国虚拟人核心市场规模呈现指数级增长，功能型与伴侣型数字人已深度渗透电商直播、客户服务、教育娱乐等场景。以罗永浩数字分身、京东“东哥”数字人直播带货为代表的应用案例，验证了技术落地的商业价值，但同时也暴露出技术栈复杂、权利边界模糊等深层隐患。
数字人生态的技术架构由前端展示层、应用服务层、AI核心层与基础设施层构成，每个层级均存在可被利用的攻击面。张嘉琦展示的威胁全景图显示，攻击者可能通过应用交付漏洞篡改数字人交互逻辑，或利用编排服务缺陷实现流量劫持。在AI核心引擎层面，模型供应链投毒、对抗样本攻击等技术可直接影响数字人决策能力，而基础设施层的配置错误则可能导致整个系统瘫痪。典型攻击案例中，某电商平台曾因提示词注入漏洞，导致数字人主播在直播过程中自动触发违规商品链接；另有攻击者通过同义词替换技术，绕过内容审核机制传播违法信息。
合规风险同样不容忽视。深度伪造（DeepFake）技术的滥用已引发多起身份冒用事件，某金融机构数字客服因语音合成漏洞被伪造，造成客户资金损失。更严峻的是，当前AI生成内容缺乏统一标识规范，导致虚假信息溯源困难。某社交平台曾出现大量AI生成的虚假新闻，因无法追溯生成源头，最终只能采取全平台内容下架的极端措施。这些案例凸显出构建数字人安全体系的紧迫性。
针对多维安全威胁，张嘉琦提出分层防御策略：在AI模型与数据安全层面，需建立供应链全生命周期审查机制，对训练数据实施动态加密，并通过输入净化技术过滤恶意指令；内容安全领域应部署实时审核系统，结合数字水印与区块链技术实现内容溯源；应用服务层需严格管控API接口权限，采用差分隐私技术保护用户交互数据；基础设施层则要通过网络隔离、系统加固与异常行为监测构建纵深防御体系。某数字人生成平台已应用上述策略，成功拦截97%的模型投毒攻击，并将内容违规率降至0.03%以下。
随着《生成式人工智能服务管理暂行办法》等法规的落地，数字人产业正进入合规化发展新阶段。张嘉琦强调，安全防护不是单一技术问题，而是需要技术、法律、伦理多维度协同的系统工程。只有构建起覆盖全生命周期的安全体系，才能确保数字人技术在推动产业升级的同时，真正成为可信的数字化伙伴。
