ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

Karpathy谈AGI:十年可期但路途坎坷,拒绝与Grok 5编程对决

时间:2025-10-19 19:36:40来源:快讯编辑:快讯

卡帕西认为,当前业界对人工智能的智能水平存在高估现象。他指出,尽管大语言模型(LLM)在过去几年取得了显著进展,但距离“在任意岗位上都比人类更优秀”的目标仍有大量工作要做。他举例称,自动驾驶技术之所以耗费如此长时间才取得突破,正是因为这些挑战的复杂性。

在解释实现AGI的困难时,卡帕西提到强化学习的局限性。他将强化学习比作“通过吸管吸取监督”,指出模型在尝试数百种方法后,仅能获得一个“对错”信号,而这个信号会被广播到成功路径的每一步,包括那些纯属运气的错误步骤。这种机制导致模型可能将错误的推理过程强化为“正确方法”。

他还提到一个荒诞的例子:某个数学模型突然开始得满分,看似“解决了数学问题”,但仔细检查后发现,模型输出的完全是胡言乱语,却骗过了LLM评判者。这暴露了用LLM做评判的漏洞——它们容易被对抗样本攻击。

对于AGI的实现路径,卡帕西长期看好“智能体式交互”,但看空“传统强化学习”。他认为,文本数据和监督微调的对话对不会消失,但在强化学习时代,环境将成为主角。环境让LLM有机会真正进行互动,采取行动并观察结果,从而提供比统计专家模仿更好的训练和评估方式。然而,当前的核心问题是需要大量多样化且高质量的环境集作为LLM的练习对象。

在谈及LLM的未来时,卡帕西主张剥离或“加阻尼”LLM的记忆,迫使它们减少死记硬背,多做抽象与迁移。他设想“认知核心”作为LLM个人计算的核心,支持原生多模态输入输出,采用套娃式架构,并在测试时灵活调节能力大小。他还提到设备端微调LoRA插槽,用于实时训练、个性化和定制化。

对于AI编程助手的发展,卡帕西倾向于“协作式中间态”。他建议以人脑能处理的“块”为单位迭代,让模型解释自己的推理过程,主动引用API或标准文档自证正确,并在不确定时向人类求助。他认为,这种谨慎、多疑的态度有助于避免“代码沼泽”和安全风险的扩大。

卡帕西还指出,各行各业中哪些岗位更易被自动化,取决于输入输出是否标准化、错误代价是否可控、是否有客观标注与可验证性,以及是否存在高频重复决策回路。以放射科为例,人机互补往往优先于完全替代——将模型作为第二读片者或质控器,反而能提升整体质量与效率。

在教育领域,卡帕西主张更早、更系统地教授物理。他认为,物理学科能培养建模、量纲、守恒、近似与推理的能力,将可计算的世界观植入学生大脑。他甚至将物理学家比作“智识的胚胎干细胞”,并计划围绕这一主题撰写长文。

更多热门内容
中国移动挥别旧时代:5项老业务关停,梦网落幕开启新征程
中国移动这几年也把重心持续往算力和人工智能靠,资本投入往这些方向集中,几乎已经是公开路线。对很多经历过功能机时代的人来说,这不是普通业务下线,更像一个年代真的结束了。你看,一个业务能成就一代产业,也可能留下不…

2026-04-07

从家务助手到养老伙伴:具身智能机器人悄然开启中国家庭生活新篇章
这台引起业内震动的家政机器人,暗藏三大技术突围:其柔性机械臂能像人类手腕般旋转240度,可完成从擦吊灯到捡硬币的全套动作;视觉系统融合了毫米波雷达与量子点传感技术,连透明玻璃上的指纹都无所遁形;最突破的是其…

2026-04-07

互联网时代数据激增,边缘计算如何开启数据处理与传输全新篇章?
通过物联网技术,边缘节点可以与各种设备进行通信和数据交互,实现对设备的实时监控和控制。在一些对实时性要求较高的应用场景中,如工业自动化、自动驾驶等,降低网络延迟可以提高系统的响应速度和可靠性。 边缘计算在互联…

2026-04-07

橡鹿机器人获3亿融资 助力中餐数字化传承 加速全球化布局
《商道创投网》2026 年 04 月 05日从官方获悉:橡鹿机器人近日完成了由亦庄国投产业升级基金领投,琥珀资本、九安资本、海棠资本联合跟投的3 亿元融资。 商道创投网创始人王帥表示:国家持续出台政策支持…

2026-04-07

青岛机器人“大显身手”:养老院贴心陪伴 厨房超市样样精通
在青岛有个人形机器人训练基地,工作人员专门给机器人搭了各种模拟生活和工作的场景。模拟厨房里,老师带着机器人练炒菜、洗碗、切菜备菜这些家务活;模拟超市里,机器人能熟练整理货架上的货,还能给“顾客” 递东西;…

2026-04-07

OpenAI新解法:用指令层级为大模型立规矩 智能体时代AI更懂“该听谁的”
这些都为AI的指令遵循带来了混乱,而指令层级,本质上是在给大模型应对指令「混乱」建立起一套解读「权力秩序」的规则。 「安全引导」展示了这样一个对比:同样面对一条包含安全系统规则的提示和一条用户请求,基线模型…

2026-04-07

从铜缆到光互连:英伟达突破算力瓶颈,开启AI扩容新征程
这代系统将提供 CPO 版本的 NVLink 互连,目前有两条可能的路径:一种是只在 NVSwitch 交换芯片上集成CPO,机柜内仍用铜,代价是需要两层交换网络;另一种是在 GPU 封装上也集成 CPO,…

2026-04-07

OpenAI新解法:用「指令层级」让大模型告别混乱,安全可控双提升
这些都为AI的指令遵循带来了混乱,而指令层级,本质上是在给大模型应对指令「混乱」建立起一套解读「权力秩序」的规则。 「安全引导」展示了这样一个对比:同样面对一条包含安全系统规则的提示和一条用户请求,基线模型…

2026-04-07

互联网时代下边缘计算:以创新技术开启数据处理传输全新篇章
通过物联网技术,边缘节点可以与各种设备进行通信和数据交互,实现对设备的实时监控和控制。在一些对实时性要求较高的应用场景中,如工业自动化、自动驾驶等,降低网络延迟可以提高系统的响应速度和可靠性。 边缘计算在互联…

2026-04-07