今天分享的是:大模型与边缘智算融合发展白皮书
报告共计:34页
《大模型与边缘智算融合发展白皮书(2025年)》核心内容总结
《大模型与边缘智算融合发展白皮书(2025年)》由中移智库、中国通信学会边缘计算专业委员会等单位联合发布,聚焦大模型与边缘智算融合的机遇、挑战、架构、技术、应用及趋势,为行业发展提供参考。
在政策与需求层面,我国在人工智能、数字经济、算力基础设施领域出台多项政策,推动技术与实体经济融合,而当前大模型依赖云端训推面临模型专业化不足、时延高、数据安全隐患及成本压力等问题,推动大模型向边缘下沉并与边缘智算结合成为趋势。
融合的机遇体现在全球大模型技术持续突破,边缘智算与大模型技术相互促进,谷歌、苹果、百度、华为等企业均有相关实践,云边协同成AI应用部署主流模式;优势包括提升实时响应能力、降低成本、增强数据安全与隐私保护,以及实现AI系统持续自我优化。同时,融合也面临训练数据协同、异构环境算法自适应、模型敏捷交付、大模型与边缘小模型协同四大挑战。
在架构与技术方面,融合架构中,中心云负责大规模数据存储、复杂模型训练等,边缘云承担部分负载与推理服务,端侧节点负责数据采集与部分推理,边缘智算平台分多层级,各层协同且有横向安全与运维管理。关键技术涵盖软硬件一体协同、边缘基础设施管理、跨异构适配、边缘模型构建、模型云边协同、模型压缩与优化、联邦大模型训练、敏捷交付等,保障融合高效实现。
应用场景上,融合在智能制造(工业质检、生产调度优化等)、智慧电网(设备监测、预测性维护等)、工业领域(设备巡检、故障处理等)、医疗健康(病历处理、智能问答等)发挥重要作用,提升各行业效率与安全性。
未来,云-边-端一体化协同将成主流架构,大模型多模态与跨领域融合能力凸显,模型轻量化与高效部署标准化,且融合将与软硬件协同优化及绿色低碳发展结合。白皮书还倡议推动技术标准制定、加强软硬件协同创新,助力全球数字化转型。
以下为报告节选内容