当前位置: 首页 » 资讯 » 新科技 » 正文

端侧AI最优解:速度破百Token!CES归来就看生态大会

IP属地 中国·北京 新智元 时间:2026-01-11 14:15:21


新智元报道

编辑:KingHZ

2026开年,端侧AI迎来最大风口。瑞芯微以RK182X领衔,性能领先同行3倍,能效提升4倍,已获新质生产力领域核心企业青睐。1月27日福州首届生态大会,将聚焦场景痛点、发布落地方案,邀您一同乘势而上。

1月27日,瑞芯微AI软件生态大会,

一起见证AIoT2.0时代!

诚邀AI软件公司共聚福州,

共谋大计:AI技术重塑电子产品!

2025年瑞芯微开发者大会上,数百款AIoT创新产品百花齐放。

我们正在见证AIoT2.0新硬件的重大机遇。

机器人、机器视觉、智能座舱、自动驾驶、工业应用、智能家居、AI电脑、AI手机、可穿戴设备等千行百业都迫切需要AI技术重塑产品

为解决终端产品部署端侧大模型面临的带宽和功耗两大痛点,瑞芯微推出了世界第一颗3D架构协处理器RK182X,是部署端侧AI的最佳芯片解决方案

RK182X已经得到十几个行业、超300家客户的采用,赋能大量新质生产力企业。

同时,正式发布RK182X最新的性能升级实测数据,大语言模型(LLM)性能实现质的飞跃!

基于端侧AI领域关键指标的实测数据对比,瑞芯微RK182X运行Qwen2.5-3B模型输出速度突破百Token大关,是市场上对标产品的3倍

这意味着端侧设备在极短延迟内生成连贯、准确的文字回复。

这彻底改变了以往端侧大模型响应迟缓、体验割裂的状况,使实时、多轮的复杂对话交互成为可能,用户体验从「等待式应答」跨越至「流畅互动」的新阶段。

RK182X基于3D堆叠的创新架构,对比竞品实现了3倍性能及6倍能耗比

该架构将高性能DRAM直接堆叠封装在计算芯片之上,实现了带宽的指数级跨越,高达数百GB/s的片上内存带宽,这比传统外置DRAM方案提升了近一个数量级,彻底满足了3B/7B大模型推理时对数据「洪流」的需求。

此外,这一架构大幅缩短内部互连距离降低数据传输功耗,实现了在更小体积内集成更强算力与存储,契合了所有终端设备的根本需求。



今年,瑞芯微还将陆续推出RK1860(60+ TOPS),RK1899(250+ TOPS),RK1810(超低功耗),RK1880(120+ TOPS)等3D架构协处理器,以及下一代旗舰芯片RK3668、RK3688。连同正当红的RK3588、RK3576,以及即将发布的RK3572,瑞芯微以SoC+协处理器,为AIoT2.0时代提供最合适的芯片平台。

我们诚挚邀请AI软件合作伙伴,协同赋能客户,用心做好产品。

本次AI软件生态大会,瑞芯微期待与您一起:

搭建起AI软件与市场的桥梁,依托瑞芯微在AIoT千行百业、超过5000家全球客户的广大生态,实现AI软件算法的场景落地、价值变现

现场将实景展示实时视频分析、车载AI Box,新一代工业检测技术,智能家居等应用,直观呈现AI软件赋能产品的全新体验

我们坚信软件有价值。现场将一对一对接具体技术方案,以及讨论合作生意模式、利益分配

1月的福州暖意融融,诚邀您拨冗莅临!在遍地黄金的AIoT2.0时代,共探合作,共创盈利!


秒追ASI

⭐点赞、转发、在看一键三连⭐

点亮星标,锁定新智元极速推送!


免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。