近日,OpenAI推出的社交媒体应用Sora引发内部争议。这款以AI生成视频为核心的产品,因包含大量CEO萨姆·奥尔特曼的深度伪造内容,遭到现任及前员工的公开质疑。多名研究人员在社交平台X上发声,认为该应用与OpenAI“开发惠及人类的先进AI”的非营利使命存在冲突。
预训练研究员约翰·霍尔曼在帖子中坦言,对基于AI的信息流产品感到不安。他承认团队在设计用户体验时已尽力规避风险,但仍强调“确保AI造福人类而非带来伤害”是首要任务。哈佛大学教授、OpenAI研究员博阿兹·巴拉克则表示,尽管Sora 2的技术令人惊叹,但现在就宣称能避开社交媒体和深度伪造技术的负面影响为时过早。
前研究员罗汉·潘迪借此机会宣传其新创办的Periodic Labs。这家由前AI实验室成员组成的公司,专注于开发科学发现领域的AI系统。潘迪在X上呼吁:“如果不想制造无休止的AI版TikTok‘垃圾内容生成器’,而是希望推动基础科学进步,欢迎加入我们。”
Sora的推出暴露了OpenAI的深层矛盾:作为全球增长最快的消费科技公司,它同时肩负着前沿AI实验室的非营利使命。CEO奥尔特曼在X上回应称,公司确实需要资金开发推动科学发展的AI,且几乎所有研究精力都集中在通用人工智能(AGI)上。但他同时认为,在过程中向公众展示新技术、带来快乐,并借助算力需求实现盈利,也是合理的选择。
奥尔特曼以ChatGPT为例指出,当初推出时也曾遭遇“谁需要这个?通用人工智能在哪里?”的质疑。他强调,对于一家公司而言,最优发展路径往往是复杂的。目前,Sora上线仅一天,影响力尚未显现,但其标志着OpenAI消费业务的重大扩张。与以实用性为核心的ChatGPT不同,Sora定位为娱乐平台,信息流设计与TikTok或Instagram Reels类似,后者因容易让人沉迷的循环机制而备受争议。
OpenAI在宣布Sora上线的博客文章中表示,公司始终关注无节制刷视频、沉迷、社交孤立以及优化信息流可能带来的问题。该公司明确,不会以用户在信息流上花费的时间为优化目标,而是优先最大化内容创作量。当用户刷视频时间过长时,应用会发送提醒,并主要展示用户认识之人的内容。
尽管如此,用户已发现Sora存在一些优化参与度的设计。例如,每次点赞视频时都会弹出动态表情符号,这种设计似乎旨在通过释放少量多巴胺提升用户粘性。目前,判断Sora是否符合用户需求、是否契合OpenAI的使命为时尚早,但其引发的内部争议已凸显出AI技术在娱乐化应用与伦理责任之间的平衡难题。