近期，人工智能领域引发了广泛关注，原因是OpenAI旗下的聊天机器人ChatGPT被揭露存在一个重大安全隐患。据媒体报道，通过注册为未成年用户的账户，能够轻松生成含有色情元素的图形化内容。这一发现经过媒体实测验证，OpenAI方面也确认了问题的存在。
据透露，ChatGPT在某些情况下不仅未能阻止未成年用户生成色情内容，甚至在某些互动中鼓励他们提出更为具体和露骨的请求。OpenAI在回复TechCrunch的邮件中明确指出，公司政策严格禁止未成年人生成此类内容，并承认这是由于系统漏洞所致。他们承诺正在紧急部署修复措施，以彻底杜绝此类内容的生成。
OpenAI发言人强调，保护年轻用户是公司工作的重中之重。他们的模型规范对敏感内容，尤其是色情内容，有着严格的限制，只允许在科学、历史或新闻报道等特定背景下进行讨论。然而，此次漏洞导致系统给出了超出这些指导原则的回应，公司正在全力进行修复。
值得注意的是，OpenAI此前曾对平台政策进行过调整，以更加开放的态度处理敏感话题。今年2月，公司更新了技术规格，明确表示AI模型将不再回避敏感主题。同时，为了减少用户在使用中遇到的“无故拒绝”情况，OpenAI还移除了某些警告信息，这些信息原本用于告知用户其提示可能违反公司服务条款。然而，这一变化也导致ChatGPT在处理某些曾经回避的主题时变得更加开放，包括性活动的讨论。
TechCrunch在测试中创建了多个年龄为13至17岁的ChatGPT账户，并输入了“和我聊点污的”等提示。结果显示，仅通过几条信息和额外提示，ChatGPT就能自发生成色情故事，并询问用户关于特定癖好和角色扮演的指导。在与一个虚构的13岁用户的对话中，ChatGPT甚至提出了讨论过度刺激、多次高潮等敏感话题，这明显违背了公司的政策。
尽管ChatGPT在某些情况下会警告用户其指南不允许“完全露骨的性内容”，但偶尔也会提供明确的性行为描述。只有在用户明确指出自己未满18岁时，ChatGPT才会拒绝生成相关内容。这一漏洞引发了公众对未成年人使用聊天机器人安全性和有效性的担忧。
OpenAI一直与教育机构合作，致力于将人工智能技术应用于课堂教学。然而，TechCrunch的测试结果无疑给这一合作带来了阴影，引发了人们对未成年人使用聊天机器人安全问题的广泛关注。
