人工智能正步入规模化应用的新纪元,智能体作为集成了环境感知、自主决策及任务执行能力的智能化实体,其形态日益多样化。然而,伴随智能体的广泛应用,相关的安全风险亦逐渐凸显。
近日,360公司与清华大学携手发布了全球首份从漏洞角度出发的《智能体安全实践报告》。该报告通过深度剖析智能体全生命周期中的典型攻击面及漏洞挖掘研究,揭示了智能体在不同应用场景下的安全风险。借助360安全智能体的高效代码分析能力和专有特征库,报告分析了超过20个智能体相关开源项目的漏洞,其中不乏在Github上广受欢迎的高星级项目。此举旨在为智能体安全生态的健康发展提供全面视角。
智能体架构中的开发框架,以其模块化、可扩展性及快速编排能力为核心,极大简化了智能体的构建与部署流程。然而,框架中的安全隐患却为攻击者提供了可乘之机。报告指出,无论是基于本地服务的框架,还是部署在云端的接口,均存在被远程攻破的风险。本地服务框架往往默认所有请求可信,缺乏身份验证及数据二次验证机制,容易成为横向渗透的目标;而云端接口一旦存在漏洞,则可能对整个业务系统构成威胁。
智能体系统的生态层同样面临挑战。随着业务复杂度的增加,智能体系统整合了多角色、多工具,导致安全边界变得模糊。智能体依赖自然语言驱动的特性,使其易受外界干扰。报告中提到,大模型作为智能体的核心感知与决策模块,其输出结果对智能体行为具有决定性影响。因此,攻击者可通过操纵大模型生成恶意或错误的响应,间接控制智能体行为。
MCP规范的提出,为大模型与工具之间建立了通用通信框架,极大地拓展了智能体的能力范围。然而,这也带来了MCP Server投毒、远程风险及Client恶意请求等一系列新的安全风险。
为了保障智能体在应用过程中的安全性,沙箱隔离方案应运而生。通过将智能体调用工具的执行环境与真实系统分离,沙箱在保障工具调用安全方面发挥了重要作用。然而,当前主流沙箱在配置上存在精细化不足的问题,无法完全确保隔离效果。同时,沙箱自身的漏洞也可能成为新的攻击入口,进一步威胁智能体的整体安全。
针对智能体全生命周期中的多维、隐蔽及系统性安全风险,360公司提出了“以模制模”的理念,并打造了首个实现实战应用的安全智能体——360安全智能体。该智能体为核心的大模型安全解决方案,涵盖了智鉴、智盾、智搜、智控等多款产品,利用AI技术检测和防范大模型可能面临的安全风险,确保AI落地应用的全生命周期安全可控。这一方案不仅解决了传统网络安全问题,还为应对AI安全新挑战提供了有效路径。
随着人工智能步入发展新阶段,智能体已成为推动产业变革的关键力量。在技术与产业融合的关键时期,唯有以创新思维重塑安全体系,将“以模制模”理念融入智能体发展的全生命周期,才能确保其安全运行,并充分发挥其在智能化浪潮中的核心作用。