小红书平台近日发布重要公告，要求用户对使用人工智能技术生成或合成的内容进行主动标注。这一举措旨在维护社区内容真实性和用户权益，应对近期频发的AI伪造内容事件。
根据最新实施的《人工智能生成合成内容标识办法》，平台将升级技术管控措施。除要求创作者在发布环节自行标注外，系统将通过算法模型自动识别未标注内容，并强制添加"AI生成"标识。对于多次未履行标注义务的账号，平台将采取限制内容推荐、降低曝光权重等处罚措施。
平台安全团队透露，目前技术检测已覆盖图文、视频等多种形式，重点筛查人脸替换、语音合成等典型应用场景。用户若发现疑似AI伪造内容，可通过专属通道进行举报，经核实后将对违规账号作出严肃处理。此次规范措施涉及所有通过算法生成或修改的数字内容，包括但不限于深度伪造、自动写作等类型。
