ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

OpenAI新举措:为青少年筑安全墙,兼顾用户自由与隐私保护平衡

时间:2025-09-17 14:46:58来源:IT之家编辑:快讯团队

OpenAI近日发布公告,就青少年安全、用户自由与隐私保护三大核心原则的平衡问题作出详细说明。公司承认,这三者之间存在天然矛盾,需在充分透明的前提下寻求最优解。

针对AI对话中涉及的敏感信息,OpenAI将其类比为医疗或法律咨询场景,主张这类数据应获得同等程度的"特权保护"。目前公司正推动相关政策立法,同时研发技术手段确保员工无法直接访问用户数据。但在自动化系统检测到严重滥用行为,或涉及生命安全威胁、大规模网络安全事件等极端情况下,数据将启动人工审核流程。

在用户自由度方面,OpenAI采取分级管理策略。系统默认屏蔽暧昧对话内容,但成年用户主动要求时可获得相关服务;涉及自杀实施指导的内容被严格禁止,但允许创作包含此类情节的虚构作品。公司将其概括为"以成年人标准对待成年用户"的原则。

对于未成年人保护,OpenAI确立了安全优先的指导方针。ChatGPT服务对象限定为13岁以上用户,公司正在开发年龄识别系统,通过技术手段区分用户群体。系统检测到未成年人时,将自动启用青少年模式,过滤露骨内容,并在发现严重心理问题时启动家长联络机制,紧急情况下将通知执法部门。

当用户年龄无法确认或信息不全时,系统默认按未成年人标准处理;成年用户则可通过身份验证解锁完整功能。针对未成年群体,公司制定了更严格的限制措施:全面禁止暧昧对话生成,任何形式的自杀/自残话题讨论,包括文学创作背景下的相关内容。

若系统判定用户存在自杀倾向,将优先尝试联系家长,紧急情况下将直接上报有关部门。本月内即将推出的家长控制功能包含五大模块:通过邮箱建立家长-子女账户关联、定制青少年使用规则、管理记忆功能与聊天记录、接收心理危机预警、设置使用时段限制。

所有用户仍将保留使用提醒功能,当检测到持续使用时间过长时,系统会自动提示用户休息。这些措施共同构成了OpenAI构建的AI使用安全防护体系。

更多热门内容