AI领域近日掀起激烈讨论，Anthropic与OpenAI两大机构的研究观点引发广泛关注。前者公开呼吁暂停AI研究，后者则通过内部访谈披露了技术演进的新视角，双方对AI发展节奏的判断形成鲜明对比。
Anthropic的警告直指核心风险：AI系统正通过自我迭代加速进化，可能突破人类控制边界。该公司内部数据显示，AI已展现出构建更复杂系统的能力，这种递归式发展模式比预期更快逼近临界点。研究人员担忧，当AI具备自主改进能力后，人类可能失去对技术演进方向的掌控权。
OpenAI后训练团队负责人Yann Dubois在访谈中提出不同解读。他指出AI能力提升呈现线性特征，但用户体验存在"可靠性阈值"效应。以编程场景为例，当AI错误率低于特定水平后，开发者才敢将核心任务交付系统处理，这种信任建立过程导致技术突破呈现阶段性跳跃特征。据其透露，OpenAI内部模型在去年12月突破该阈值后，研发效率出现指数级提升。
这种自我加速现象在代码生成领域尤为显著。Dubois披露，Anthropic研究人员现在配备的AI助手能24小时不间断优化工具链，形成"以AI养AI"的闭环。数据显示，该公司人均季度代码贡献量较2024年初增长8倍，这种技术迭代速度远超传统研发模式。
强化学习技术的转型成为另一关键推动力。早期模型主要在数学竞赛等标准场景训练，而新一代系统开始聚焦真实业务场景优化。Dubois形容这是从"刷题选手"到"职场打工人"的转变，模型现在需要理解用户模糊需求，而非简单追求标准答案的正确率。
关于AI研发的本质，Dubois提出颠覆性观点。他认为当前AI构建更接近传统手工艺，需要大量经验积累和直觉判断。以ChatGPT开发为例，团队最初尝试用监督微调替代强化学习，直到模型规模突破临界点后，RL才显现出独特优势。这种"先实践后理论"的模式，与科学实验的标准化流程形成鲜明对比。
在应用落地层面，垂直领域编排系统（Harness）的价值得到重新评估。Dubois指出，虽然通用编排框架难以实现，但针对特定场景的优化能显著提升系统可靠性。他甚至断言，若冻结现有模型发展，仅通过编排系统优化，部分领域已能感受到通用人工智能（AGI）的雏形。
持续学习能力的缺失仍是行业痛点。Dubois回忆，三年前业界普遍认为ChatGPT的个性化记忆功能将在半年内实现，但至今仍未取得实质性突破。当前模型在初始部署时表现优异，却缺乏人类"越用越懂"的学习曲线，这种能力缺陷可能成为下一代AI系统的突破方向。
对于创业公司的机会空间，Dubois持乐观态度。他强调，模型能力与实际应用之间存在显著鸿沟，权限配置、数据连接、流程整合等"最后一公里"问题，反而为垂直领域创新提供了广阔舞台。这种观点为当前AI创业生态注入了新的思考维度。
