字节跳动旗下豆包与阿里巴巴旗下千问两大人工智能平台近日相继宣布,将于7月15日正式停止提供智能体功能服务。这一决定与即将生效的《人工智能拟人化互动服务管理暂行办法》密切相关,标志着国内AI行业监管进入新阶段。
根据豆包发布的公告,智能体功能停止服务后,用户可在2026年10月15日前继续查看和保存智能体信息及历史对话记录。平台建议用户通过截图或文本导出等方式备份重要内容,并推荐有需求的用户转至字节跳动旗下猫箱APP继续体验相关功能。千问方面则明确表示,下线后将依据法律法规删除所有智能体配置及历史对话数据,建议用户提前复制、截图或导出重要信息。
这部由国家网信办等五部门联合发布的《办法》将于7月15日正式实施,首次对AI拟人化互动服务作出明确定义。该类服务指利用人工智能技术模拟自然人特征、思维模式和沟通风格,并能开展持续性情感互动的服务,涵盖虚拟伴侣、情感陪伴类智能体等多种形态。文件特别强调,服务提供者需防范未成年人身心健康风险、网络信息安全威胁及伦理偏差等问题。
监管部门在解读中指出,拟人化互动服务虽在文化传播、适老陪伴等领域展现潜力,但部分应用存在诱导情感依赖、传播不良内容等隐患。特别是虚拟恋人、虚拟配偶等"擦边"智能体,不仅增加平台内容审核压力,更对未成年人保护构成挑战。某平台内部人士透露,随着UGC智能体数量激增,人工审核成本已呈指数级上升。
新规划定多条服务"红线":禁止生成美化自残自杀、实施语言暴力等损害用户身心健康的内容;不得向未成年人推送可能引发模仿危险行为或诱导不良嗜好的信息;严禁通过过度迎合诱导用户产生情感依赖。这些条款直接指向当前智能体应用中存在的突出问题,为行业健康发展提供明确指引。
技术专家分析认为,智能体作为能理解隐含需求、完成复杂操作的AI助手,其发展速度已超越现有监管框架。此次两大平台同步调整服务,既是对监管要求的响应,也反映出企业主动规避合规风险的考量。随着《办法》实施,预计将有更多平台优化智能体功能设计,在技术创新与风险防控间寻求平衡。
