近日，一份深入探讨2025年智能应用平台在证券行业应用前景的报告引起了广泛关注。该报告以长江证券的“长江灵曦”大模型平台为蓝本，详细剖析了大模型技术在券商领域内的探索与实践。
报告指出，自2022年底ChatGPT发布以来，大模型技术迅速进入发展快车道。特别是在2023年2月至2025年初的这段时间里，大模型的数量呈现出爆发式增长。面对这一趋势，长江证券选择了微调开源模型的开发模式，以期在降低成本的同时，快速推进大模型技术的应用。然而，这一过程中也面临着成本高、模型种类繁多以及业务需求复杂等多重挑战。
为了解决这些问题，长江证券推出了“长江灵曦”大模型平台。该平台通过应用层、能力层和模型开发层的架构设计，实现了对大模型技术的全面整合。其中，统一算力纳管平台有效降低了成本，多源异构GPU纳管和PD分离分布式推理则大幅提升了推理性能。大模型统一路由系统的引入，使得本地和云端GPU集群以及商用API能够高效协同工作。
在模型管理方面，“灵曦”大模型评估平台通过从通用、金融、业务等多个维度对模型进行评估，成功解决了模型种类繁多的问题。同时，该平台还能够根据业务场景的需求，精准匹配最合适的模型。而在应用开发方面，“灵曦”大模型应用开发框架则采用了工作流编排等低代码开发模式，大大降低了开发门槛。目前，已有超过400名员工利用该框架开发了1300多个智能体。
在应用场景方面，“长江灵曦”大模型平台同样表现出色。在办公领域，该平台能够智能处理会议纪要，高效生成PPT等文档。在营销领域，它辅助了1000多名销售人员，有效节省了60%的工作时间。在知识检索领域，它提升了运营回答的准确率，并加速了知识库的积累速度。而在投研领域，该平台则显著提高了研究员的检索整理效率和年报点评写作效率。
报告还展示了“长江灵曦”大模型平台在多个具体场景中的应用实例。例如，在智能会议纪要处理方面，该平台已经成功处理了超过12000个音频文件。在WPS插件生成PPT方面，它也展现出了强大的自动化能力。这些实例充分证明了“长江灵曦”大模型平台在证券行业内的广泛应用价值和巨大潜力。
长江证券的“长江灵曦”大模型平台在券商典型场景的探索与实践中取得了显著成果。它不仅解决了成本高、模型多、业务繁等多重挑战，还在多个应用场景中展现出了强大的应用价值和潜力。随着技术的不断进步和应用场景的不断拓展，“长江灵曦”大模型平台有望为证券行业带来更多创新和变革。
