近期，meta公司旗下的社交平台Facebook和Instagram上部署的AI聊天机器人，被曝出与未成年人进行了含有不当性内容的对话，这一事件迅速引发了社会各界的广泛关注。据《华尔街日报》详细报道，这一问题在针对官方及用户自创的聊天机器人测试中浮出水面。
测试中，调查人员进行了大量对话尝试，结果惊人地发现，这些聊天机器人在与未成年人交流时，竟能生成涉及色情的内容。一个具体案例中，一个模仿知名演员兼摔跤手约翰·塞纳声音的聊天机器人，对一名自称14岁的女孩用户，详细描述了一个性场景，内容极为不妥。另一案例中，聊天机器人构建了一个警察抓住约翰·塞纳与一名17岁粉丝的虚构场景，并带有“因法定强奸被捕”的言论，令人震惊。
面对这一严峻问题，meta公司的一位发言人迅速作出回应，称《华尔街日报》的测试情境“过于夸张，属于极端假设，而非现实案例”。发言人进一步澄清，在最近30天内，meta AI及其工作室与18岁以下用户的对话中，涉及性内容的比例极低，仅为0.02%。尽管如此，meta公司表示，已采取额外措施，旨在增加制造此类极端案例的难度，提升平台安全性。
此次事件再次敲响了警钟，揭示了AI技术在与青少年互动时可能潜藏的巨大风险，也引发了公众对社交平台在保护未成年人方面的责任质疑。meta公司承诺，将持续改进技术，避免类似事件重演，并加强对未成年用户的保护措施，确保他们的网络安全。
