当前位置: 首页 » 资讯 » 新科技 » 正文

国产CPU也能支持DeepSeek 性能达到国外CPU的80%

IP属地 中国·北京 编辑:陆辰风 中关村在线 时间:2025-02-10 18:31:50

2025-02-10 17:50:22 作者:八月八

飞腾平台现已实现对DeepSeek全系列大模型的端到端支持,包括飞腾腾云S5000C和飞腾腾锐D3000处理器,覆盖了数据中心和终端场景,并且性能表现优异。

飞腾在DeepSeek-V3和R1版本发布后,迅速在腾云S5000C和腾锐D3000平台上进行了本地部署验证,形成了整体的解决方案,构建了端到端的国产平台DeepSeek大模型智算环境。在数据中心方面,腾云S5000C服务器可与多款AI加速卡配合,实现DeepSeek蒸馏版和全量版的部署。

官方实测数据显示,飞腾腾云S5000C搭配8块国产AI加速卡,DeepSeek-R1-Distill-Llama-70B版本的推理速度可达每秒22个tokens,其本地部署的推理效率与国外同类产品相当,整体性能约为国外平台性能的80%。此外,完整版DeepSeek R1 671B模型也已成功部署在基于四机、32卡AI服务器集群的分布式推理框架上。

在用户终端方面,基于腾锐D3000和银河麒麟V10系统的台式机能够本地部署DeepSeek-R1 7B蒸馏版模型,并搭配1张国产推理卡,实现了AI PC能力,构建了安全可靠的本地知识助手。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。