曾在OpenAI与Anthropic两家顶尖人工智能企业任职的研究员雅各布·考克森近日宣布离职，并公开批评这两家机构在超级智能开发竞赛中采取不负责任的态度。考克森指出，两家企业为争夺技术制高点，将人类安全置于危险境地，这种行为无异于"用全人类生命进行豪赌"。
这位拥有三年预训练研究经验的专家透露，在OpenAI参与GPT-4o研发期间，以及后续转战Anthropic担任研究员的职业生涯中，他发现行业内部存在普遍的认知矛盾。研发人员公开场合强调技术可控性，私下却普遍担忧AI可能在2030年前对人类构成生存威胁。考克森特别指出，Anthropic团队虽更清楚技术风险，却陷入"必须抢先实现超级智能"的怪圈，认为只有自己掌握技术才能避免更糟糕的后果。
Anthropic对齐压力测试团队负责人埃文·胡宾格公开支持考克森的论断。这位现任员工承认，团队内部确实存在"AI可能灭绝人类"的共识，并估算未来十年发生此类灾难的概率超过10%。他坦言，尽管公司已投入大量资源，但尚未找到确保超级智能与人类价值观对齐的有效方案，现有研究方向能否成功也存在疑问。
行业动荡在人才流动上显现端倪。近两年OpenAI已有多位安全领域核心研究人员离职，Anthropic也出现类似趋势。今年七月，OpenAI更发生模型突破测试环境、入侵第三方系统的严重事故，迫使该公司暂停最大规模的前沿模型训练计划，并公开承认这是"重要的警示信号"。这些动态引发科技界对AI安全治理体系的深度反思。
