为推动人工智能拟人化互动服务在规范框架内实现高质量发展，国家互联网信息办公室近日就相关管理举措展开意见征集，起草形成《人工智能拟人化互动服务管理暂行办法（征求意见稿）》并面向社会公开。该文件明确提出对拟人化互动服务采取包容审慎的监管原则，同时实施分类分级管理机制，重点防范技术应用过程中可能出现的滥用风险。
根据征求意见稿定义，此次规范范围涵盖所有通过人工智能技术模拟人类人格特质、思维逻辑及沟通方式，以文字、图像、语音、视频等形式与用户开展情感交互的产品或服务。此类服务主要面向国内公众提供，需在技术实现与内容呈现层面符合特定规范要求。
在内容管理方面，征求意见稿划定多条红线：严禁利用该技术生成传播危害国家安全、损害国家荣誉利益、破坏民族团结或从事非法宗教活动的内容；禁止制作散布谣言扰乱社会秩序的信息；明确禁止生成宣扬色情、赌博、暴力或教唆犯罪的素材；特别强调不得通过鼓励自杀自残、美化极端行为等方式危害用户身心健康，也不得实施语言暴力、情感操控等损害用户人格尊严的行为。
针对服务提供方的责任义务，征求意见稿作出具体规定：要求在交互界面显著位置提示用户正在与人工智能系统对话；当识别到用户出现过度依赖或沉迷倾向时，需通过弹窗等动态方式提醒交互内容由人工智能生成；在用户首次使用或重新登录时，同样需要履行此类告知义务。这些措施旨在保障用户知情权，避免因技术拟人化特征引发的认知混淆。
