（记者　杜峰）既要AI“跑”又要AI合理“吃草”，AI安全边界在哪里，防御体系如何进化？7月23日，大模型安全发展论坛暨中国电信第五届科技节·北京站在北京国家会议中心成功举办。作为2025中国互联网大会重要组成部分，论坛旨在探讨大模型技术快速发展背景下的安全挑战与应对策略，推动人工智能安全、可控、健康发展，来自政府、学界、运营商、企业的专家学者和业界嘉宾近200人齐聚一堂，共同围绕大模型应用与安全风险展开深度探讨，为AI安全发展建言献策。

AI技术飞速发展，安全风险相伴相生

近年来，AI技术飞速发展，逐渐的从实验室走向人们的工作和生活，走向了产业的深处。AI大模型从百亿参数跃升到万亿参数，泛化能力也在持续突破，能处理从文本生成到复杂推理的各类任务，AI智能体也逐渐进入到智能制造、金融、风控等核心的业务流程。与此同时，与AI发展相伴生的安全领域的挑战也在加剧。

中国互联网协会专家咨询委员会常务副主任邵广禄在致辞中指出，AI安全领域面临场景化风险加剧、重应用轻安全、协同机制不完善三大挑战。“金融、医疗以及工业领域的AI应用与核心业务深度绑定，但安全能力大多是后加装型的，而不是原生设计的，这类的隐患就自然比较多。在隐私保护方面，敏感数据的泄露与滥用的风险也在凸显，深度合成技术的一些恶意应用，有可能进一步加剧我们个人信息的侵权问题。”邵广禄介绍道。

图为中国互联网协会专家咨询委员会常务副主任邵广禄发表致辞演讲。

中国工程院教授吴世忠表示，安全是发展的前提，发展是安全的保障，人工智能具有双刃剑特性，内容安全、数据隐私、恶意滥用和社会伦理是主要风险点。

中国信通院副院长魏亮也指出，2025年是人工智能大模型加速迭代、深度赋能的关键之年，但安全风险也日益凸显。从Ollama漏洞到OpenAI大模型的“叛逆行为”，以及AI衍生的虚假音视频、信息污染等问题，都给社会带来诸多危害。

“随着大模型逐渐走向应用，其安全风险已不再局限于理论，而是开始向物理世界蔓延，其中模型幻觉及应用落地中对物理世界安全风险尤为值得警惕。”中国软件测评中心副主任唐刚强调。在他看来，大模型选型阶段须重点发现模型自身安全问题，防范模型在后续训练微调和应用过程中放大风险，比如模型幻觉和鲁棒性不足等。

2024年，加拿大航空聊天机器人在错误理解“特殊退款”概念后，连续生成虚构的退款条件与时限，最终酿成法律纠纷。2024年杭州警方破获的全国首例“AI换脸”窃取隐私案，暴露生物识别模型鲁棒性不足的安全风险。

自主创新，构建立体安全体系

面对复杂多变的大模型安全威胁，作为首个提出建设安全型企业的央企，中国电信依托自身技术优势，积极打造AI安全防护标杆体系。

中国电信副总经理刘颖在致辞中指出，中国电信全面拥抱AI，启动了“云改数转智惠”的战略升级，以网为基础，以云为核心，以人工智能为方向，以安全为底线，将安全作为人工智能发展的重要的基础和考量。在此基础上，中国电信也逐步构建起从算力安全到算法模型安全到数据安全以及内容和应用安全的人工智能安全防护体系的基本格局，赋能经济社会千行百业发展。在大模型安全防护的打造中，中国电信坚持走自主可控之路，逐步构建一体化的AI保障体系，也取得了一系列令人瞩目的创新成果。

图为中国电信副总经理刘颖介绍中国电信人工智能安全防护体系情况。

在算力层面，中国电信打造“息壤”智算一体化的服务平台，提供一站式的AI服务，全面布局数据保护，模型安全、内容合规和风险预警等核心技术领域，构建覆盖从算力、平台、数据、模型、应用五层架构的AI安全防护体系，在一些领域也取得了一些成果。

在数据层面，中国电信打造了国内首个安全领域的高质量数据集“阡陌数聚”，目前，“阡陌数聚”已包含4大类22小类共计10万亿条数据，日均处理数据2TB，生成了近8000万条的高质量标注语料以及百亿token级的高质量训练语料，并建立三级安全风险分类标签体系，显著提高了数据安全性。在大模型层面则推出安全垂类大模型“见微”。据了解，见微安全大模型深度聚焦网络安全赋能，并围绕数据、代码、运营、攻防，构建“四位一体”技术框架，全面覆盖威胁研判、智能运营等核心应用场景，全方位守护人工智能时代的数据安全，在威胁研判上，精准度超95%，告警处置效率提升50%，日调用量百万次，已经场景落地30余家合作伙伴。

图为天翼安全科技有限公司首席AI安全专家曹辉介绍“阡陌”安全数据集发展情况。

在运营层面，基于各行业面临的多种数据安全风险，中国电信推出一站式大模型安全能力平台，基于大网测绘和威胁情报的大模型风险预警和动态攻防测试技术的AI安全检测，构建了从IaaS（基础设施即服务）、PaaS（平台即服务）、DaaS（数据即服务）到MaaS（大模型即服务）和SaaS（软件即服务）的立体化、多层次大模型安全动态防护体系，为客户提供完整、系统化的模型安全检测、模型安全防护等解决方案，守护各行业数据安全。

协同共治，共筑安全屏障

AI安全不仅是技术问题，更需产业链各方共同参与。邵广禄建议，治理方面要构建政府主导、企业主责，行业自律，公众监督的多元共治的一个格局。

我国于2025年2月正式推出“中国人工智能发展与安全研究网络”，这个被称为“中国版AI安全研究所”的新兴机构由中国国内产学研各界研究力量共同组成。研究网络坚持发展和安全并重原则，凝聚各方研究力量，致力于构建开放、包容、公正、有效的发展和治理机制。

刘颖也强调，开放合作是人工智能安全发展的必然选择，人工智能时代的安全风险比较交织且复杂，唯有协同共治、开放合作才能构建起稳固的安全屏障。

中国电信牵头成立“天翼网信安全产业联盟”，与各大网络安全厂商及科研院校通力协作，共享一线研发的经验成果，并牵头建设云网基础设施安全国家工程研究中心，建立国家级5G安全接入标准体系，联合产业内尖端力量，齐心协力在人工智能新时代背景下筑牢网络信息安全防线。

与此同时，中国电信旗下天翼安全科技有限公司也携手中关村实验室、清华大学、奇安信等科研机构、高校、互联网公司等行业生态伙伴，共同推进云网融合的新型信息基础设施的安全底座，繁荣安全产业生态，致力成为“国内安全第一生态平台”，覆盖安全全栈能力，签约合作伙伴近300家。

未来，中国电信将秉持开放共享，合作共赢的理念，持续地深化产业协作，加速推动算力共享、数据流通、应用场景开放，联合产业链各方的力量，共同在打造开放融合的大模型安全生态体系，通过生态共建实现协同共治，推动人工智能产业的安全稳定，繁荣发展。

（图片杜峰/摄）