11月20日，京东云城市大会在南京举行。会上，京东云展示了JoyAI大模型落地行业的领先技术和应用实践，持续升级JoyAgent智能体等五大平台，以及四大行业解决方案。京东集团技术委员会主席、京东云事业部总裁曹鹏表示，大规模应用爆发也将推动AI基础设施迈向标准化，AI Infra 1.0已开启。

大模型应用爆发，AI Native基础设施亟待建立

随着AI应用深入，对基础设施带来了一系列全新的技术挑战。过去基础设施的核心标准是安全稳定、极致性价比；随着深度应用快速渗透核心业务场景，应用规模持续扩大，原来以CPU为中心的架构越来越难以满足高并发、低延迟的AI业务需求。这种变化体现在如下几个方面：在算力基础设施方面，架构已从CPU主导转向CPU+GPU协同模式，需以GPU为核心重塑基础设施。国内还面临多样GPU型号带来的硬件异构兼容难题，需要一套高效混合计算平台，实现跨硬件的统一资源管理、调度与弹性伸缩。

在数据与模型方面，围绕开源模型的定制化需求持续激增，企业内部私有数据的安全接入、合规使用成为核心痛点。AI全生命周期（开发、训练、部署、调度）的高效流转，需依托成熟的模型开发平台提供端到端支撑。

在Agent与垂直应用方面，应用场景向细分领域深度渗透，Agent的快速开发、轻量化部署及与算力/模型平台的无缝协同，需要灵活的Agent开发平台来提供支持。

AI Infra 1.0开启，京东云全栈AI产品支撑深度应用落地

按照AI Infra 1.0的标准，京东云已形成全栈大模型产品和服务，来支持大模型的部署及应用：从底层的基础设施，到中间的模型服务和工具，再到Agent应用开发。这些产品经历了京东集团大模型的落地检验，也在服务众多行业客户。

面向AI算力需求，京东云作为行业里最早大规模部署混合算力的云厂商，拥有超3700万个核容器集群，历经“618”“双11”“春晚”等极限场景检验，建立起行业领先的混合算力技术储备。这些优势在京东云JoyScale AI算力平台中充分体现：平台不仅与华为昇腾、海光、寒武纪等国产芯片深度合作，而且实现从内核层统一调度英伟达及国产芯片，为企业提供高效自主的算力管理。

在模型训推方面，得益于自研推理引擎，京东云JoyBuilder模型开发平台实现极致性能，训推全面提速。JoyBuilder内置超百种开源模型和多样化数据集，提供100多种算法和组件，可以帮助客户根据自身业务特征快速开发专属大模型，并基于丰富的开发工具打通多模态数据湖仓，在提升实时推理响应的同时大幅降低使用成本。

除了模型和算力，数据作为人工智能三要素之一，其安全合规是决定AI应用效果的关键。京东云基于多年数据安全技术沉淀，打造了安全可信数据空间，100%采用国密算法，实现全链路加密防护；通过安全可信加工能力，在“可用不可见”的安全沙箱中使用，确保数据流通的安全可靠。

此外，面向Agent应用，京东云将JoyAgent智能体平台与JoyCode智能编码平台紧密协同，构建支持深度应用的AI开发新范式。这种以Agent简化代码、代码反哺Agent的闭环，将让AI开发越来越自动化、智能化，最终实现“从开发者少写代码，到开发少写代码”。两者通过AI Store实现无缝协同，形成持续进化的闭环：开发者可灵活组合智能体能力与编码逻辑，快速构建复杂、深度定制的AI应用。

上游新闻 马亮