ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

乔治·霍茨警告称AI编程智能体将成软件最大隐患

时间:2026-05-26 23:24:47来源:IT之家编辑:快讯

5 月 26 日消息,乔治 · 霍茨(George Hotz)于 5 月 24 日发布博文,指出在当代软件开发过程中,AI 编程智能体可能是代价最高的错误之一。

注:霍茨于 1989 年 10 月出生,人称“神奇小子”(geohot),是世界著名的黑客、安全研究员和创业者。

乔治 · 霍茨,图源:WikiMedia

他以早期破解 iPhone 和 PlayStation 3 闻名,是自动驾驶技术公司 Comma.ai 的创始人,以技术极客形象在编程和人工智能领域备受关注。

霍茨称,自己用 6 个月测试了多种模型和工具,还结合 tinygrad 相关工作,结论是它们适合快速原型,却不擅长处理决定质量的细节。

霍茨在博文中担忧大组织过度依赖 AI 工具,他指出 AI 模型可以快速产生代码,但是生成的代码表面越来越像样,问题却更难识别。

霍茨认为,能力较弱的开发者很难看穿这些缺陷,最终可能把有问题的代码带入正式系统,累积出高昂维护成本和隐蔽故障风险。

在技术判断上,霍茨已从早期乐观转向怀疑。他现在更接近杨立昆(Yann LeCun)和加里 · 马库斯的观点,大语言模型并不真正具备智能。

他认为这类模型本质上是复杂的统计系统,主要任务是模仿编程分布,而不是真正理解问题。正因如此,它们能模仿代码外形,却未必能稳定完成陌生情境下的推理与修正。

与霍茨相反,安德烈 · 卡帕西近来的态度明显转向积极。他曾在 2025 年秋天认为智能体系统不可靠,但在 GPT-5.4 和 Opus 4.6 发布后改口,称 AI 智能体已经永久改变编程方式。

更多热门内容
下一个十年工业互联网蓝图:院士专家前瞻,共话智能体与新型架构新路径
邬院士指出,从发展机遇层面来看,智能体技术将从底层价值、工具架构、产业普惠三个维度重塑工业互联网平台的发展形态。当前,以大模型为代表的新一代人工智能技术快速发展,工业智能正在成为工业互联网创新演进的重要方向…

2026-07-04

从PPT到生产线:2026全球数字经济大会如何让前沿科技扎根现实
2026全球数字经济大会彻底跳出传统论坛走过场、重形式轻实效的固有模式,以真实线下多元场景为核心载体,联动全球政府机构、国际组织、头部科技企业、初创科创团队、产业资本、普通市民全链条产业资源,打通实验室前沿…

2026-07-04

AWS Summit纽约峰会落幕:生成式AI成焦点,企业云部署需求与挑战并存
A:本届峰会上,生成式 AI 是绝对的焦点话题,讨论主要集中在如何利用云资源推动生成式 AI 的普及与发展,包括云基础设施对 AI工作负载的支撑能力、大语言模型的部署方式,以及云服务商如何将 AI 能力整…

2026-07-04

HarmonyOS 6终端设备数跃升至7000万,HarmonyOS 7携新特性亮相
当时的活动中还介绍称,HarmonyOS6终端设备数突破6600万、覆盖设备款数100+,1100万注册开发者、40万+可获取应用和服务。据悉,全新的华为 Mate90 系列将搭载全新的HarmonyOS…

2026-07-03