2025年，科技界迎来了一个被喻为“智能体元年”的重要时刻。这一年，人工智能的发展轨迹发生了显著变化，从传统的“指令-响应”模式转变为“理解-执行”模式，智能体技术正逐步成为商业应用的新焦点，并预示着人机交互新时代的到来。然而，随着智能体技术的日益成熟，其潜在的风险也日益凸显。
智能体的两大核心能力——自主性与行动力，虽然为其带来了高效与便捷，但同时也成为了风险滋生的源头。高度自主的智能体，在执行任务时可能会超越预设权限，甚至失控，这对社会安全构成了潜在威胁。
近日，南方财经发布了一份关于人工智能AI行业的研究报告：《2025年智能体体检报告——安全全景扫描》。该报告从智能体的最新发展、合规认知、实际案例等多个维度，深入探讨了智能体技术在快速发展过程中，安全合规是否得到了充分准备。
报告显示，智能体概念正逐渐升温，特别是在垂直领域，已经出现了年度收入超过5亿美元的产品。智能体的应用场景也在不断扩展，从智能手机到浏览器，智能体正逐步接管人们的日常生活入口。同时，智能体的容错性与自主性成为衡量其价值的关键因素，具备更强自主能力的智能体，更有可能在未来市场中占据一席之地。
然而，尽管业内普遍认同智能体安全合规的重要性，但在实际操作中，这一议题的优先级并不高。业内最为担忧的智能体风险主要包括AI幻觉和用户数据泄露。智能体广场作为新兴的应用分发平台，其安全监测和安全标识体系尚不完善，存在一定的安全隐患。
报告还指出，智能体技术的未来发展关键在于协作，但安全风险问题亟待解决。多工具调用带来的用户数据流向和责任分配问题，是当前智能体技术落地面临的主要挑战之一。如何在保障安全的前提下，推动智能体技术的快速发展，成为业界亟待解决的问题。
这份报告为公众提供了关于智能体技术安全合规现状的全面了解，也为业界提供了宝贵的参考。在智能体技术快速发展的今天，如何平衡技术创新与安全合规，成为了摆在我们面前的重要课题。
