埃隆·马斯克旗下人工智能企业xAI近日向得克萨斯州联邦法院提起诉讼，指控一名南卡罗来纳州男子滥用其开发的AI系统Grok。根据诉讼文件，被告特里·哈伍德涉嫌利用该平台生成儿童性虐待相关内容，此案成为AI公司针对用户利用技术生成违法内容的首批法律行动之一。
诉状显示，哈伍德不仅上传未成年人及成年人的非性化图像，还试图通过Grok系统生成露骨的深度伪造内容。公司方面强调，被告行为构成"精心策划的犯罪阴谋"，既对真实受害者造成持久伤害，也使企业面临法律风险与声誉危机。除儿童相关内容外，哈伍德还被指控未经同意制作成人性化图像。
面对公众质疑，xAI公布了平台治理数据：2026年已暂停52,222个违规账户，向美国失踪与被剥削儿童全国中心提交73,604份举报，协助促成至少244起逮捕案件。公司表示已建立账户暂停、终止服务及违法内容举报等多重防控机制，但此次诉讼暴露出技术治理面临的严峻挑战。
此次法律行动正值xAI深陷舆论漩涡之际。此前该平台因允许用户生成未经同意的性化深度伪造内容，已引发全球监管机构关注。此次诉讼中，企业除要求永久禁止被告使用Grok外，还寻求未明确金额的损害赔偿，但未透露具体索赔依据。
法律专家指出，该案将检验AI服务提供商对用户生成内容的监管责任边界。随着深度伪造技术普及，如何平衡技术创新与内容治理已成为行业焦点。截至目前，涉事双方均未进一步披露案件细节，法庭尚未安排首次听证会。
