OpenAI近日推出首款社交媒体应用Sora，该产品由视频生成模型Sora 2驱动，提供类似TikTok的AI视频流服务。然而，这款应用的上线在内部引发了激烈讨论，多位现任及前任研究员公开表达了对技术伦理与商业化的双重担忧。
据科技媒体报道，Sora应用中充斥着大量AI生成的短视频内容，其中不乏针对OpenAI首席执行官萨姆·奥特曼的深度伪造影像。这种技术滥用现象迅速引发争议，部分研究员认为该产品可能背离公司“开发造福人类的先进AI”的初衷。
OpenAI预训练研究员约翰·霍尔曼在社交平台发文称：“基于AI的信息流存在潜在风险。得知公司要发布Sora 2时，我确实感到不安。尽管团队在优化用户体验方面付出了巨大努力，但我们必须持续关注技术对社会的实际影响。”他强调，确保AI技术服务于人类福祉应当是首要原则。
哈佛大学教授、OpenAI研究员博阿兹·巴拉克在回应霍尔曼时指出：“Sora 2的技术突破令人惊叹，但现在就断言我们成功规避了社交媒体和深度伪造技术的负面影响还为时尚早。其他平台的历史教训表明，这类技术可能被用于制造虚假信息或操纵公众认知。”
面对内部质疑，奥特曼在社交媒体发文解释公司的战略选择。他表示：“理解大家的担忧，但我们必须平衡理想与现实。将大部分资源投入AGI研发的同时，展示前沿技术成果既能激发公众兴趣，也能为庞大的算力需求提供资金支持。就像ChatGPT推出时，很多人质疑‘这和AGI有什么关系’，但技术发展需要循序渐进。”
这场争论暴露了OpenAI长期面临的矛盾：作为非营利机构，其使命是确保AI技术安全发展；但作为需要持续融资的科技公司，商业化进程又不可避免。这种矛盾在监管审查加剧的背景下显得尤为突出——加州总检察长上月明确表示，将重点关注OpenAI转型过程中的安全使命落实情况。
业内人士指出，Sora应用的争议反映了AI技术快速发展的普遍困境：如何在技术创新与社会责任之间找到平衡点。随着各国监管机构加强对生成式AI的管控，科技公司的伦理决策将面临更严格的审视。
