ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

AGI实现尚待十年:Karpathy剖析AI三大认知短板与未来图景

时间:2025-10-22 09:08:37来源:快讯编辑:快讯

卡帕西以自动驾驶领域的发展为案例,揭示了技术从演示到产品化的巨大鸿沟。他回忆道,1986年就已出现卡车自动驾驶演示,2014年体验Waymo时也获得了近乎完美的驾驶体验,但十年过去,自动驾驶行业仍面临诸多挑战。他用"三个九"的可靠性标准形容这一过程:从90%到99%,再到99.9%,每提升一个数量级都需要投入与之前相当的资源。在特斯拉的五年里,团队可能只推进了两到三个"九"的可靠性。

这位技术专家特别指出,当前被寄予厚望的AI智能体存在根本性认知缺陷。它们缺乏真正的持续学习能力,多模态能力仍处于初级阶段。卡帕西以自己构建nanochat(ChatGPT极简复刻版)的经历为例,发现现有AI编程助手在编写非样板化新代码时几乎毫无帮助。他将这类工具斥为"残次品",并具体指出三大问题:无法理解定制化方案、倾向于编写臃肿过时代码、以及自然语言沟通效率低下。

对于行业热议的"AI自动化AI研究"路径,卡帕西持强烈保留态度。他认为当前强化学习(RL)是用吸管吸监督信号的低效方式,信号稀薄且嘈杂,存在错误答案被奖励、正确推理被惩罚的风险。他更看好系统提示学习与基于智能体交互的新型学习范式,认为ChatGPT的记忆系统就是这种思路的早期原型。

在技术路线选择上,卡帕西提出了"认知核心"概念。他通过剥离模型记忆能力来增强泛化性能,指出人类记忆有限反而形成了强大的抽象推理能力,而LLM记忆过多则倾向于复述而非理解。他提出一个反直觉观点:模型必须先变得更大以获得足够多样性,然后才能提炼出核心结构变得更小。

关于AGI的经济影响,卡帕西给出了出人意料的预测。他认为AI不会带来经济爆炸,而是会平滑地融入过去数百年2%的GDP年增长曲线。他以计算机发明、互联网普及、iPhone诞生等"革命性"技术为例,指出这些创新都没有在GDP曲线上造成突兀尖峰,而是通过缓慢渐进的方式被吸收到现有增长轨迹中。AGI同样不会改变这条曲线的斜率,只是让我们能继续保持增长。

在为行业降温的同时,卡帕西也公布了自己的新计划——创办教育项目"Eureka"。他坦言最恐惧的未来不是AI失控,而是人类沦为无用的旁观者。这个被比作"星际舰队学院"的项目,旨在培养能驾驭前沿技术的人类精英。卡帕西描绘了一个AGI时代的教育图景:当AI消除学习摩擦力后,教育目的将从"有用"转向"有趣",就像现代人健身不是为了搬运重物,而是因为过程本身充满乐趣且能带来自我实现。

更多热门内容