端侧AI最优解：速度破百Token！CES归来就看生态大会

---

  新智元报道  

1月27日，瑞芯微AI软件生态大会，

一起见证AIoT2.0时代！

诚邀AI软件公司共聚福州，

共谋大计：AI技术重塑电子产品！

2025年瑞芯微开发者大会上，数百款AIoT创新产品百花齐放。

我们正在见证AIoT2.0新硬件的重大机遇。

机器人、机器视觉、智能座舱、自动驾驶、工业应用、智能家居、AI电脑、AI手机、可穿戴设备等千行百业都迫切需要AI技术重塑产品。

为解决终端产品部署端侧大模型面临的带宽和功耗两大痛点，瑞芯微推出了世界第一颗3D架构协处理器RK182X，是部署端侧AI的最佳芯片解决方案。

RK182X已经得到十几个行业、超300家客户的采用，赋能大量新质生产力企业。

同时，正式发布RK182X最新的性能升级实测数据，大语言模型（LLM）性能实现质的飞跃！

基于端侧AI领域关键指标的实测数据对比，瑞芯微RK182X运行Qwen2.5-3B模型输出速度突破百Token大关，是市场上对标产品的3倍！

这意味着端侧设备在极短延迟内生成连贯、准确的文字回复。

这彻底改变了以往端侧大模型响应迟缓、体验割裂的状况，使实时、多轮的复杂对话交互成为可能，用户体验从「等待式应答」跨越至「流畅互动」的新阶段。

RK182X基于3D堆叠的创新架构，对比竞品实现了3倍性能及6倍能耗比。

该架构将高性能DRAM直接堆叠封装在计算芯片之上，实现了带宽的指数级跨越，高达数百GB/s的片上内存带宽，这比传统外置DRAM方案提升了近一个数量级，彻底满足了3B/7B大模型推理时对数据「洪流」的需求。

此外，这一架构大幅缩短内部互连距离降低数据传输功耗，实现了在更小体积内集成更强算力与存储，契合了所有终端设备的根本需求。

今年，瑞芯微还将陆续推出RK1860（60+ TOPS），RK1899（250+ TOPS），RK1810（超低功耗），RK1880（120+ TOPS）等3D架构协处理器，以及下一代旗舰芯片RK3668、RK3688。连同正当红的RK3588、RK3576，以及即将发布的RK3572，瑞芯微以SoC+协处理器，为AIoT2.0时代提供最合适的芯片平台。

我们诚挚邀请AI软件合作伙伴，协同赋能客户，用心做好产品。

本次AI软件生态大会，瑞芯微期待与您一起：

• 搭建起AI软件与市场的桥梁，依托瑞芯微在AIoT千行百业、超过5000家全球客户的广大生态，实现AI软件算法的场景落地、价值变现。

• 现场将实景展示实时视频分析、车载AI Box，新一代工业检测技术，智能家居等应用，直观呈现AI软件赋能产品的全新体验。

• 我们坚信软件有价值。现场将一对一对接具体技术方案，以及讨论合作生意模式、利益分配。

1月的福州暖意融融，诚邀您拨冗莅临！在遍地黄金的AIoT2.0时代，共探合作，共创盈利！