所有芯片都会变成“大模型芯片”,XHEART 已经这么做了

微信|Geisterspiele
任何一次真正具有革命性的技术创新,都会给一度看似格局稳固的底层基础设施带来新的入场机会。
大模型自然也是如此。
而被它撕开“裂缝”的,就包括芯片产业。
2023 年,OPPO 关闭了旗下芯片设计公司哲库。时任 COO 李宗霖和一批在芯片行业做了十几、二十年的老兵,面临着一次新的职业选择。他们随后决定创业,在这一年成立的 XHEART 新芯航途,继续做芯片。
芯片从来不是一个“创业友好”的赛道,当时他们反复讨论的问题是:几年后做出来的芯片,究竟还有没有人需要?
“这一次,到底要做什么?能解决客户什么问题?几年以后,芯片做出来,是不是市场所需要的?”李宗霖回忆。
芯片研发周期长,投入又会随着项目推进不断增加。一旦选定架构,就需要持续投入人力和资金,将一个关于未来的判断做成产品。彼时资本市场不景气,团队规模也小。李宗霖说,“我们只有一次机会”。
最终,他们下了一个最关键的赌注:大模型定义芯片。

在 2023 年,这仍是一项需要提前作出、再花几年验证的选择。ChatGPT 已经让人们看见大模型的潜力,汽车里的模型会怎样演进、需要什么样的计算架构,却还有大量问题等待回答。对一家芯片创业公司而言,押注这条路线,意味着要在需求尚未完全显现时,就为它安排硬件资源。
好在,它在当时得到了模型一侧的呼应。在与 Momenta 创始人曹旭东的一次次交流中,双方逐渐形成了共同的认识:模型会改变智能驾驶,也会改变芯片的设计方式。
从模型一侧看,智驾有机会从多个相对独立的感知、预测、规划模块,走向更大、更统一的端到端模型。模型理解和推演物理世界的能力继续提升,对计算、存储和数据交互的要求也会随之变化。已有硬件与新模型需求之间的错配,会成为能力上车的障碍,也给重新设计芯片留下空间。
对李宗霖和他的团队而言,这个机会意味着:从真实模型的需求出发,倒推芯片怎样组织计算、怎样存储和搬运数据,并为下一代模型留下余量。芯片要服务的模型还在变化,硬件设计却必须提前开始。
于是,XHEART 和 Momenta 以一种紧密合作的方式,一起沿着这个判断做了起来。
2026 年 10 月 29 日,创业第三年,XHEART 发布了 X7 Ultra,它的大模型算力达到 700 TOPS。当年的技术判断直接成为了可以放进真实汽车中检验的产品。
而在此过程中,XHEART 也已经成为炙手可热,融资累计超过 50 亿元人民币的明星公司。
1
模型怎样“进入”一颗芯片
X7 Ultra 是一颗车规级 SoC,也就是把多种处理单元集成在一起的系统级芯片。其中,NPU 主要负责神经网络计算,CPU 承担通用计算与系统调度,其他单元则处理传感器输入等任务。对它的设计,从模型怎样执行开始,延伸到了整颗芯片如何分工。

在这颗芯片上,第一个重要选择,是超大核 NPU。
“模型正在走向集中,芯片架构就要为这种集中做好准备。”李宗霖说。
过去相对独立的感知、预测、规划任务,逐渐被组织进更大的端到端网络。模型执行过程中,需要频繁读取权重、传递中间结果。如果任务被拆散在多个小核之间,就需要处理更多跨核交互。
这还会遇到一个 AI 计算中的常见瓶颈——“内存墙”。计算单元的运算能力很强,数据却未必能及时送达。等待会让算力闲置,反复搬运数据也要耗电,最终增加散热负担。
XHEART 选择将更多计算与交互集中在超大核内部。按公司披露,模型数据交互从传统小核之间的百 GB/s 等级,聚合到超大核内部的 TB/s 等级,互联速率提升了一个数量级。同时,大容量、高并发的多级缓存,让计算所需的数据尽可能留在附近,减少对外部内存的反复访问。
把核做大,也意味着必须同时安排好缓存、数据路径与调度,否则更大的计算资源仍然可能等不到数据。在架构选型阶段,XHEART 内部有过相当大的分歧。团队评估了多种方案,每种方案对应不同的数据流结构,都要经过性能仿真,由软硬件团队共同研判。模型的实际负载,在芯片还没有被制造出来时,就已经参与了选择。
第二个重要选择,是为关键计算安排专用硬件。
早期面向卷积网络设计的 NPU,对 Transformer 中的部分计算支持不足,任务需要交回 CPU 处理。这会增加处理器之间的切换,也会增加外部内存读写。业界因此开始在 NPU 内部加入向量处理器,让更多计算留在内部完成。
XHEART 的研发团队在此基础上思考的问题则是,有没有比向量处理器更快的计算方式?有没有比片上 SRAM 更高效的访问路径?
SRAM 是芯片内部的高速存储,缓冲寄存器则可以更直接地为计算单元提供数据。团队为 LayerNorm、Softmax、Transpose 等关键算子设计了专用加速器。算子是模型计算的基本步骤,这几类操作分别承担调节数值尺度、生成归一化权重、调整矩阵排列等工作。它们未必贡献最多的计算量,却可能因为执行与数据访问的开销,拖慢整张网络。
专用加速器配合缓冲寄存器,缩短数据访问路径,并原生支持高精度浮点向量计算。优化同时落在了计算速度、数据供给与数值精度上。
模型的执行安排,同样影响硬件能否持续工作。
X7 Ultra 让更多计算单元并行工作,也让当前计算与下一批权重加载重叠进行。当前任务还没有结束,后续所需的数据已经开始准备,减少原本需要串行等待的环节。
但模型中的计算存在依赖,片内存储和数据通道也都有容量限制。哪些任务可以同时执行,哪些结果必须保留,后面的任务何时开始,都需要工具链安排。
这也是 XHEART 重构 AI 工具链、推进“整网级融合”的背景。
常见的算子融合,是将几个相邻步骤合并,减少中间结果写回外部内存的次数。XHEART 披露的做法,则从全局编排整张网络不同分层、不同分支的任务,让更多中间结果在片内流转。按照其实现,外部内存传输主要集中于最初的输入、最后的输出,以及必要的模型权重加载。公司将之称为“整网内存零拷贝”。
优化范围扩大到了完整模型的执行流程。编译器需要统筹任务依赖、片内存储和执行顺序,硬件也必须提供相应的计算与数据访问能力。单个算子的加速需要扩大到整张网络的运行效率系统性的提升。
整颗 SoC 的其他部分也需要跟上。
X7 Ultra 采用 Armv9 车规 CPU,配合异构计算单元承担不同任务;激光雷达加速器支持每秒 2000 万点的处理能力,摄像头处理则强调本地计算与时延的确定性。
“平均时延会骗人。”李宗霖举了一个例子,平时 30 毫秒完成的处理,如果在 20 到 50 毫秒之间波动,系统就还必须应对最慢时刻的风险。汽车需要传感器处理、模型推理与控制之间稳定的配合。芯片满足 ASIL-B 功能安全要求,内置安全微控制器(MCU)通过更高等级的 ASIL-D 认证,也是在为这条链路提供底层保障。
大模型定义芯片的具体含义就体现在这每一个取舍里。对模型结构、热点算子和数据流的理解,会影响硬件资源如何分配,并在架构定型时,提前成为几年后产品的能力边界。
1
从计算效率,到量产交付
这些技术选择带来丰厚回报。
XHEART 给出的第一组数据,是 700 TOPS 的大模型算力,以及真实量产智驾模型测试中 98.7%的计算利用率。TOPS 是每秒万亿次运算,700 TOPS 即每秒 700 万亿次运算;计算利用率则指向这些资源是否得到充分使用。缓存、并行与工具链的工作,最终要减少闲置和等待,让硬件能力转化为模型的实际运行表现。
另一组数据,是在大模型性能相当的条件下,相比行业旗舰产品,内存带宽消耗下降 80%,能效提升 100%。

带宽衡量数据通道的吞吐能力。消耗下降,意味着达到相近模型性能,对外部数据传输的依赖减少。能效提高一倍,则意味着同样的能源能够完成更多有效工作。对于功耗与散热受限的汽车,这些收益可以给更大的模型留下空间,也能减轻整车系统的负担。
模型效果同样被纳入评价条件。XHEART 要求,量化部署后的模型输出,与训练后的 FP32 浮点模型相比,相似度达到 99.99%以上,也就是“四个九”。
FP32 是 32 位浮点数格式。量化通过降低数值表示精度,节省计算和存储资源;输出相似度的要求,则是在提高部署效率时,尽量保留模型原有的输出表现。XHEART 强调,700 TOPS 的性能评测使用真实量产模型,并带着这一精度约束完成。
计算利用率、带宽、能效与输出相似度,最终共同服务于一件事,在汽车能够接受的成本和功耗下,承载尽可能多的模型能力。
模型进入芯片设计,也进入了流片前的验证。
首颗 X7 回片后不到 24 小时点亮,测试车短短几天就已经上路。但按李宗霖的回忆,团队随后决定提高标准:验证的是由芯片、底层软件和模型组成的完整系统,细致到每个路口转弯时,模型规划的轨迹都要与量产标准保持一致。
经过磨合,团队在第 17 天实现整车闭环,第 21 天向客户开放体验。此前,XHEART 已经在流片前与 Momenta 使用真实量产模型进行全芯片仿真,并与车企提前开展域控设计和集成验证。许多问题被前置到了芯片制造之前。
“为什么 XHEART 芯片一回来,就能那么快用真实量产模型、那么快上车?关键就是,我们前置了软硬集成和优化的工作。”李宗霖说。
目前,X7 系列量产 8 个月,累计出货已经超过 20 万颗,搭载 10 款量产车型,获得超过 40 款车型订单。

1
物理 AI 更需要模型定义芯片
在 X7 Ultra 亮相同时,模型一侧也公布了新的进展。
曹旭东宣布,Momenta 即将发布 R7 Ultra 世界模型,并明确将这次升级与 X7 Ultra 联系起来:“我们把 R7 Ultra 的模型参数规模,扩大到了原来的 5 倍。”
此前为大模型准备的硬件资源,开始支持下一阶段模型的部署。相较于芯片自身的性能数据,这提供了另一个方向的初步印证:模型确实在继续扩大,也开始使用新的芯片能力。

在一些诸如倒车避让、多把掉头的场景里,计算涉及空间关系、其他车辆的行为,以及自身动作可能带来的结果,这时车辆需要理解当下的环境,预测接下来会发生什么,再及时作出动作。
按照 Momenta 介绍的路线,世界模型通过预训练学习物理常识,使用驾驶数据学习开车,再结合仿真与强化学习处理长尾问题。
曹旭东把仿真比作“练兵场”。有些极端长尾场景,可能上百万公里,甚至一亿公里才遇到一次。单靠路测获取反馈,周期长、成本高,偶然遇到一次,提供的验证也有限。世界模型可以生成环境,让这些问题在训练中被反复演练。
Momenta 同时披露,其累计量产规模已经突破 140 万台,最新的 10 万台用了不到一个月;累计里程达到 200 亿公里。真实场景、训练方法与模型规模共同推动能力演进,车端芯片则要承接这些成果的推理部署。
双方持续协作的价值,体现在这些研发工作的衔接中。模型团队在硬件定型之前,提供真实负载、热点算子与未来需求;芯片交付后,改善的效率和部署空间,又为模型扩展提供条件。一代产品的匹配,可以继续成为下一代研发的输入。
“模型告诉我们计算时间花在哪里;软硬协同让我们进一步判断,硬件应该为未来准备什么。”李宗霖这样描述 XHEART 与 Momenta 的合作带来的机会。
芯片开发与模型研究就这样螺旋上升起来。等模型完成以后再适配硬件,很多取舍已经无法改变。把协作提前到架构设计阶段,就有机会在仍然能够调整资源的时候,处理未来可能出现的瓶颈。它的潜力,体现在双方能否持续缩短模型进步与产品进步之间的距离。
更大的模型,也已经进入后续规划。曹旭东判断,规模化 L4 可能需要 10B—100B,即 100 亿到 1000 亿参数的模型,功耗、车规可靠性与成本将构成共同约束。他对规模化的描述是,“百万台、千万台车,在全中国、全世界都能跑起来”。

XHEART 则提前公布了 X9 的研发目标:3000 TOPS 大模型算力,700GB/s 单芯片内存带宽,计划在 2027 年推出。计算与数据供给同步提升,服务的是下一阶段模型的需求。
“量产一代、开发一代、预研一代”,这是 XHEART 希望形成的研发节奏。
而当你仔细看这些剧透的参数,你会立刻意识看到它的目标不只是汽车了。机器人同样需要感知、决策、低延迟与低功耗,也更加需要模型参与定义资源配置的过程,显然,接下来 XHEART 和 Momenta 的目标,就会是物理世界更多 AI 的需求,会是市场规模和技术想象力上都要更大的事情了。
