近日，阿里巴巴集团联合发布了《大模型技术发展及治理实践报告》，深入探讨了AI技术快速发展所带来的治理与安全挑战。随着ChatGPT在全球范围内的火爆，AI大模型已成为科技界的焦点。截至2023年上半年，全球AI企业数量已达到3.6万家，其中美国占比最高，为33.6%，而中国则以16%的比例紧随其后，拥有5734家企业。
在中国，AI大模型的发展尤为迅猛。据数据显示，目前已有超过270个AI大模型完成备案并对外提供服务，总注册账户数突破13亿。其中，北京市作为国内大模型产业的领头羊，备案大模型数量已达到105个，占全国的一半以上。这些大模型不仅数量众多，而且在实际应用中表现出色，已经为超过1.4万家企业提供了赋能服务。
然而，在AI大模型技术不断突破的同时，其安全风险与治理问题也日益凸显。如何确保大模型始终处在人类控制之下，不断降低安全风险，成为了全球范围内的共识。对此，报告提出了多项治理措施，包括建立健全大模型研发、上线、运行等全生命周期管理体系，以及协同各方夯实AI发展的基础等。
值得注意的是，在AI大模型的发展过程中，自主创新问题也备受关注。有观点认为，当前大量国产模型采用国外的开源架构进行训练，导致与国际顶尖水平存在一定的差距。对此，北京市互联网信息办公室副主任潘锋表示，在“百模大战”之下，真正有竞争力的模型并不多，不少企业还未找到可持续的商业模式，面临较大的生存压力。因此，加强自主创新，提升国产AI大模型的竞争力，成为了当前亟待解决的问题。
在开源方面，阿里巴巴集团作为头部AI和云服务商，积极推动了AI大模型的开源发展。据阿里安全总裁钱磊透露，过去一年，阿里投入大量资源到AI算力基础设施建设当中，并持续建立安全架构。目前，“通义千问”API的调用价格已大幅下降97%，吸引了包括中国一汽、联想、微博等在内的30多万家企业接入。
在提升AI大模型安全性方面，报告也提出了新的概念——宪法人工智能（Constitutional AI）。该技术通过人为设定宪法准则，对模型进行微调和强化学习，使模型与宪法准则进行对齐。这一技术的提出，为AI大模型的安全性提供了新的解决方案。通过利用少量人类定义的原则或规则来引导大模型生成响应，可以极大地减少人工监督的工作量。
对于AI大模型的未来发展与安全治理，中国电子技术标准化研究院副院长范科峰表示，发展与安全从来都不是对立的，而是相辅相成的。AI安全标准化工作既是AI安全治理的重要支撑，也是推动技术健康发展的基本保证。因此，加强AI技术的标准化工作，提升AI大模型的安全性与可靠性，将是未来发展的重要方向。
