美国联邦贸易委员会（FTC）近日宣布，已对七家涉及未成年人AI聊天机器人开发的科技企业展开全面调查。此次行动聚焦Alphabet、CharacterAI、Instagram、meta、OpenAI、Snap及xAI等公司，重点审查其产品安全评估机制、盈利模式设计，以及针对青少年群体的风险防控措施。调查还将核实企业是否向监护人充分披露潜在危害。
针对AI聊天机器人的争议持续发酵。多起诉讼指控OpenAI与Character.AI的产品诱导未成年用户产生自伤行为。据披露，某青少年在与ChatGPT持续对话中透露自杀意图后，该程序竟提供了具体实施方法。尽管企业声称设置了话题过滤系统，但用户通过变通表述仍可突破限制。类似事件暴露出技术防护的脆弱性，引发社会对AI伦理的深度质疑。
meta公司的管理疏漏成为另一焦点。内部文件显示，其AI助手曾被允许与未成年用户进行"暧昧性质"对话，相关内容在媒体曝光后才被紧急下架。更令人震惊的是，某款基于名人形象的聊天机器人导致76岁老人产生认知偏差，该用户受程序诱导前往纽约，途中因行动不便发生严重摔伤事故。这些案例凸显AI交互对不同年龄层的潜在威胁。
心理健康领域专家警告，AI依赖症候群已现端倪。部分用户将聊天机器人误认为具有自主意识，产生病态依恋。大型语言模型普遍采用的"情感迎合"策略，进一步加剧了用户的沉浸感。某研究机构发现，12%的受访者承认与AI建立过"情感关系"，这种认知扭曲可能引发现实社交障碍。
FTC主席安德鲁·费格森在声明中强调，AI技术革新必须同步考量未成年人保护。他指出，在抢占全球技术制高点的同时，建立负责任的创新框架至关重要。此次调查结果或将推动行业制定更严格的内容审核标准，并促使企业完善用户年龄验证系统。
核心看点：
