ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

AI“动物”与“幽灵”之辩:Karpathy回应Sutton,LLM未来路在何方?

时间:2025-10-02 09:17:46来源:互联网编辑:快讯

国庆假期期间,人工智能领域关于大语言模型(LLMs)的学术讨论持续升温。图灵奖得主、强化学习先驱理查德·萨顿(Richard Sutton)在近期访谈中抛出争议性观点,直言当前主流的LLMs技术路线是"死胡同"。这位被誉为"强化学习之父"的学者指出,基于海量人类文本数据训练的模型缺乏自主认知能力,本质上只是对人类知识的统计拟合,而非真正理解世界。

萨顿的核心批判直指模型学习机制的根本缺陷。他强调,现有技术路线依赖的预训练数据存在两个致命问题:其一,所有训练数据均由人类生成,存在天然的认知边界;其二,人类创造的数据总量有限,终将面临耗尽危机。更严峻的是,这种学习方式会不可避免地继承人类认知偏见,导致模型难以突破既有知识框架。作为"苦涩教训"理论的提出者,萨顿此次的自我反思引发学界震动——研究者们奉为圭臬的缩放定律(Scaling Laws),竟被理论创始人质疑是否符合其核心思想。

萨顿提出的替代方案带有鲜明的古典主义色彩。他重申艾伦·图灵1950年提出的"儿童机器"构想,主张构建能通过环境交互自主学习的智能体。这种架构摒弃预训练阶段,转而依靠强化学习实现持续进化。其奖励机制融合环境反馈与内在动机,包括好奇心驱动、预测误差最小化等生物本能。萨顿特别以AlphaZero为例,强调该系统通过纯自我对弈战胜人类知识初始化的AlphaGo,证明脱离人类数据依赖的可行性。

在卡帕西看来,预训练技术本质上是"拙劣的进化模拟"。通过互联网文本积累的软约束,虽无法完全替代生物进化的精密性,却为数十亿参数的神经网络提供了可行的冷启动方案。这种折中方案恰是当前最先进模型的工作范式:先用海量文本构建基础认知,再通过强化学习进行行为修正。卡帕西将此类模型比作"智能幽灵",认为它们是统计规律与人类知识的混合产物,虽不完美却具备实用价值。

这场学术交锋揭示了AI发展的两条路径分歧。萨顿代表的理想主义阵营追求构建能自主探索世界的智能体,其理论根基在于生物智能的进化逻辑;卡帕西领衔的实用主义派则主张利用现有数据资源构建可用系统,通过工程手段弥补先天不足。两种路线并非完全对立,卡帕西就提出"幽灵"与"动物"可能存在演化衔接点——随着技术进步,当前模型或能通过持续学习逐渐接近自主智能。

值得注意的是,卡帕西特别强调生物智能对AI研究的启示价值。他列举内在动机、多智能体博弈、文化演化等尚未被充分挖掘的生物机制,认为这些领域可能孕育下一代技术突破。这场关于模型本质的辩论,实质上反映了AI研究在数据依赖与自主进化之间的战略抉择,其结果或将决定未来十年技术发展的核心方向。

更多热门内容
​徐扬生谈AI时代教育变革:重情感创造个性,培养未来所需人才​
3、另一位有这样共识的是港中深的徐扬生校长,也是这一周,他做了一场《人工智能时代的教育》的分享,在上述共识的基础上,他提出:人工智能最直接的冲击在教育。我们需要培养具有伟大格局的坚定实践者,体验是AI时代首…

2025-10-02

美顶级投资者:人工智能开启“超级周期”,将深刻变革世界多领域
甘古利认为,第二个撼动科技行业的趋势是,独立创始人现在即使不购买设备或雇用程序员也能取得成功,因为人工智能可以帮助他们“在完全不懂编程的情况下进行开发和编码”。他说,上一轮科技热潮主要集中在亚马逊和元宇宙公…

2025-10-02

上海生成式AI服务备案登记“双破百”,为智能产业高质量发展树标杆
截至9月30日,上海市人工智能产业再传捷报——新增10款已完成备案的生成式人工智能服务,至此,上海累计完成备案的生成式人工智能服务数量正式突破102款,成为全国首个实现生成式人工智能服务备案、登记“双破百”…

2025-10-02

从物理到AI底层:OpenAI幕后工程师Scott Gray如何用CUDA内核改写训练规则
在 OpenAI 的官方介绍中也明确提到,他的工作重心是「优化深度网络在 GPU 上的性能」。 与在 Nervana 时一样,OpenAI 也将这些高性能的块稀疏内核进行了开源,旨在推动整个社区在模型和算法…

2025-10-02

探访华为练秋湖研发中心,共赴世界城市日共话智慧城市未来
2025年,世界城市日将继续践行“城市,让生活更美好”的理念,推出一系列高水平、国际化、青年友好的社会活动,通过内容丰富多样的论坛、展览、公益等形式,提升公众对智慧城市与可持续未来的关注与参与,推动社会各界探…

2025-10-02

港科大(广州)仿生机器人赛:全栈实战校企携手 破局产业痛点
南方财经记者观察到,港科大体系近百名本硕博学生及毕业生带来了十多个创新成果,围绕仿生机器人开展的全栈技术实战,正在以“小切口”破解机器人产业痛点。 今年5月,港科大(广州)与天太机器人成立了联合实验室,为参赛…

2025-10-02

探访华为练秋湖研发中心,共话智慧城市创新发展与民生温度
2025年,世界城市日将继续践行“城市,让生活更美好”的理念,推出一系列高水平、国际化、青年友好的社会活动,通过内容丰富多样的论坛、展览、公益等形式,提升公众对智慧城市与可持续未来的关注与参与,推动社会各界探…

2025-10-02

​《生成式AI安全应急指南:从事件分类到响应全流程详解》​
今天分享的是: 报告共计:35页 《》(V1.0-202509)由全国网络安全标准化技术委员会秘书处2025年9月发布,国家计算机网络应急技术处理协调中心、中国电子技术标准化研究院等多单位参与起草,旨在指导生…

2025-10-02