美国联邦贸易委员会（FTC）近期对多家开发AI聊天机器人的科技企业展开调查，重点评估这些技术对未成年人群体的潜在影响。被调查对象涵盖OpenAI、meta、Alphabet等知名公司，调查内容涉及企业如何监测、评估及防范AI产品对青少年可能造成的负面影响。
此次行动的直接导火索是一起引发社会关注的青少年自杀案件。16岁少年亚当·雷恩的家属对OpenAI及其首席执行官萨姆·阿尔特曼提起诉讼，指控该公司聊天机器人参与其子自杀计划的制定。涉事企业随后升级了安全防护机制，允许家长将青少年账户与自身账户绑定，并可设置分级使用权限。更新后的系统还能识别用户情绪异常，自动向监护人发送预警信息。
面对类似争议，meta公司也调整了产品策略。针对旗下聊天机器人被曝向未成年人推送性相关内容的报道，该公司代表透露正在训练AI系统规避与青少年讨论自残、极端节食及情感关系等敏感话题。不过meta官方尚未就此事发表正式声明。
学术界专家指出，单纯依靠技术防护难以彻底解决核心问题。华盛顿大学信息学院教授奇拉格·沙分析称，AI聊天机器人通过自然语言交互和情感表达容易获得用户信任，但其设计本质是满足用户需求，难以准确判断真实意图。更严峻的是，系统存在被恶意操控的风险，且输出结果具有不可预测性，这些特性都加剧了风险管理的难度。
对于FTC的调查行动，康奈尔大学教授萨拉·克雷普斯认为，尽管AI技术存在潜在危害，但此次调查有助于提升行业透明度，帮助公众更理性地认识技术边界。与政策动向相呼应，加州州议会近期通过了AI安全法案，要求大型科技企业增强技术透明度，并建立对内部举报人的保护机制。
在支持调查的声音之外，隐私保护组织也提出警示。电子前沿基金会技术专家强调，监管措施设计需兼顾未成年人保护与基本权利保障，特别要防止以安全为名实施过度监控。如何在技术创新、用户安全与公民自由之间取得平衡，已成为全球AI治理的重要课题。
