新浪科技

8月7日下午消息，在ISC.AI 2025未来峰会上，360数字安全集团总裁胡振泉指出：“随着大模型技术加速落地与智能体的规模化应用，AI安全风险也正呈现出‘内忧外患’的复杂态势。”

他指出，从内部来看，AI存在与生俱来的“四大基因缺陷”：一切皆可编程、一切皆可模仿、一切皆可生成、一切皆可调度。从外部来看，一方面，针对AI系统的攻击将变成大国博弈的关键；另一方面，黑灰产利用AI批量制造攻击武器，甚至部署“黑客智能体”，传统安全防御体系难以应对。

“这些风险交织，使得AI安全的复杂程度远超传统范畴”。胡振泉强调，AI安全既涵盖网络、数据等传统安全问题，也涉及AI内容安全、应用安全及未来场景安全。广大政企机构在AI落地过程中面临的安全挑战，已远远超出网络与数据安全的原有边界，亟需一套系统性的创新解决方案。

据他介绍，360提出的“以模制模”新思路，利用人工智能技术自身优势对抗AI安全风险，并打磨出360大模型安全卫士，通过四大安全智能体形成闭环防护体系。

其中，内容安全智能体作为AI内容“守门人”，通过幻觉抑制、安全风控等专用模型，实时审核输入输出内容，拦截违法违规信息，抑制虚假生成，为党政军企等场景筑牢内容安全防线。

AI Agent安全智能体聚焦智能体执行安全，通过异常行为识别、权限管控及人工审核，防范数据泄露与越权操作，确保 AI“行动能力” 可控。

软件安全智能体扫描AI软件漏洞与配置缺陷，排查开源组件风险，从源头保障AI系统供应链安全。

安全风险评估智能体：以实战化模拟攻击（如注入攻击、数据窃取）提前暴露系统短板，帮助客户发现多项关键隐患。（文猛）