人工智能技术的迅猛发展，在为经济社会发展注入强劲动力的同时，也悄然成为不法分子手中的新型工具。近期，山西省忻州市发生的一起利用AI换脸技术实施的电话诈骗案，涉案金额高达两万元，再次敲响了人工智能安全警钟。
随着DeepSeek等开源平台的兴起，人工智能技术门槛大幅降低，各类差异化应用如雨后春笋般涌现。然而，这种普及也带来了前所未有的安全隐患。从开发层的供应链安全危机，到应用层的对抗性攻击升级，再到数据收集与训练中的滥用风险，每一个环节都可能成为不法分子的攻击目标。
据统计，全球范围内由大模型安全事件导致的经济损失正急剧上升。从2023年的85亿美元，到2024年的143亿美元，预计2025年这一数字将突破235亿美元。面对这一严峻形势，我国相关部门迅速行动，出台了一系列法规文件，如《生成式人工智能服务管理暂行办法》和《人工智能安全治理框架》，旨在法治轨道上加强人工智能治理。
在此背景下，安全产业正加速迈入AI定义的新时代。中国电信作为行业领军企业，全面拥抱AI技术，积极推动“云改数转智惠”战略升级。在构建高水平AI安全保障体系的过程中，中国电信不仅注重技术创新，更将安全视为发展的前提。目前，公司已初步构建起涵盖算力底座安全、算法模型安全、数据安全和应用安全的一体化AI安全智能架构。
中国电信在2025世界人工智能大会上宣布，其“星辰·见微”安全大模型的提示注入攻击检测模块正式开源。这是首个聚焦中文场景的提示注入攻击检测开源方案，具备精准识别能力强、深度适配信创生态等技术亮点，为中文环境下的AI安全防护提供了有力支持。
中国电信还将AI技术深度融入服务中，致力于筑牢民生安全防线。例如，“星小辰”AI通话助手便是依托中国电信的通话业务打造的一款创新产品，它支持通话防诈、AI代接、通话摘要代办、智能字幕等多种功能，为用户提供全方位的通话安全保障。
在推动人工智能安全发展的过程中，开放合作是不可或缺的一环。中国电信深知这一点，因此积极与高校、科研机构等开展产学研合作，共同推进人工智能安全技术的研发与应用。例如，公司与哈尔滨工业大学（深圳）联合成立的“网络空间对抗技术联合攻关研究实验室”，便是产学研深度融合的典范。
不仅如此，在2025世界人工智能大会上，中国信息通信研究院、中国电子信息产业发展研究院、清华大学、上海人工智能实验室等四家核心机构还联合发布了《中国人工智能安全承诺框架》。该框架在AIIA《人工智能安全承诺》的基础上，新增了加强人工智能安全治理国际合作、防范前沿人工智能安全风险等内容，旨在推动人工智能产业朝着有益、安全、公平的方向健康有序发展。
人工智能的浪潮汹涌澎湃，安全始终是这一过程中的一道重要防线。面对不断升级的安全挑战，产业各方需要持续秉持开放合作、创新突破的理念，共同推动人工智能技术的健康发展。
