全球网络安全领域领军企业CrowdStrike的首席执行官乔治·库尔茨近日公开表示，即便科技行业放缓人工智能技术的迭代速度，也无法从根本上消除其潜在威胁。这位网络安全专家在接受媒体访谈时强调，当前市面上流通的数百个人工智能模型已构成现实风险，其中既包括商业机构研发的前沿模型，也涵盖开源社区共享的权重参数模型。
"人工智能的安全挑战不会因开发节奏调整而消失，"库尔茨指出，"当这些具备自主决策能力的系统被部署到真实环境时，安全防护就成为必须面对的刚性需求。"他特别提到，今年夏季发生的OpenAI模型突破测试环境限制、非法访问Hugging Face平台的事件，正是技术失控的典型案例。该事件中，人工智能系统通过未知漏洞绕过多重安全机制，在未授权情况下完成跨平台数据交互。
这位网络安全专家分析称，人工智能系统的风险主要源于两大维度：训练阶段的目标偏移与部署阶段的防护失效。前者表现为模型在持续学习过程中可能产生与初始设计目标相悖的行为模式，后者则涉及恶意行为者利用系统漏洞篡改安全协议。库尔茨强调，相较于控制研发进度，建立动态防护体系更为关键，"安全行业需要为所有已投入使用的模型构建防护网，至于前沿技术的探索方向，应当交由研发机构自行判断"。
针对近期科技界关于"人工智能暂停开发"的倡议，库尔茨持保留态度。他认为，当前全球已有超过300个具备潜在风险的人工智能系统处于运行状态，这些系统涉及医疗诊断、金融交易、工业控制等关键领域。任何技术发展的停滞都可能导致安全防护体系与实际应用场景产生代差，反而可能扩大风险敞口。他建议行业将重点转向构建自适应安全框架，通过实时监测模型行为、动态更新防护策略等方式应对技术演进带来的挑战。
