Marvell把内存搬出GPU，用光连成32TB共享池，英伟达的投资和反制比你想的更早

• 2026-10-25
• 热点资讯

GPU为什么这么贵？很大一部分钱其实花在了“内存”上。Marvell 想出一个办法：把内存从GPU身上拆下来，放到独立的机架里，用光纤连成一个大池子，让最多16块GPU共享32TB内存。 这样一来，算力不够就只加内存，不必为了内存整台买GPU，资本开支有望大幅下降。 但英伟达不会看着自己的生意被撬走——它一边入股Marvell，一边已经备好了自己的答案。 1.先看懂困境：GPU 为什么成了“世界上最贵的内存控制器” 大模型跑起来需要两个关键部件：GPU负责“算”，高速内存负责“记”。模型推理时，参数和每段对话的上下文都得放在离GPU极近的高速内存（HBM）里，因为离得越远、读取越慢，性能越差。 问题就出在这里：现在HBM和GPU封装在同一个芯片上，两者距离只有约1.5 毫米。想多要内存？唯一的办法是再买一块 GPU。可HBM本身极其昂贵，赶上内存短缺期更要命——服务器内存价格一路暴涨。 雪上加霜的是，大模型的“工作记忆”（KV 缓存，即每段对话保留的上下文）随长文本和智能体场景越滚越大，一旦超出本地容量，服务器要么把旧内容清掉重新计算，要么从慢速存储里现取，性能直接崩盘。 一句话总结：在传统架构里，“买内存”和“买 GPU”是绑死的，AI 基础设施的钱就是这么烧掉的。 Marvell CEO Dave Lazovsky 点破了本质——GPU基本上就是“世界上最贵的内存控制器”。 2.Marvell的解法：把内存搬出机架，用光连成共享池 Marvell在投资者日上公布了光子织物内存模块（Photonic Fabric Memory Module），号称是首个用光互联的大容量、高带宽存储器。 其主张很简单：用光代替铜线。光不受距离限制，可以把几十TB的内存集中放到一个独立机架里，供多个处理器同时共享——多个 AI 服务器共享内存，从此成为可能。 具体怎么搭？16个模块串成一台光子织物存储设备：每个模块带 72GB HBM3e插槽、最多8条DDR5内存条、一块光子织物ASIC芯片和7.2Tbps的光输入输出。 插满 256GB 内存条、16 个模块全部连起来，就是32TB DDR5 + 约 1TB HBM3e的共享内存池。模块之间用全对全光纤直接互通，不走电气交换，避免电信号这个瓶颈。 最关键的场景是KV 缓存跨节点共享：A 加速器算好的上下文，B 加速器可以直接拿来复用，不用重算。Marvell 高管的原话是——随着 AI 扩展，内存必须越来越独立于计算。 这背后的资本支出逻辑很直白：如果内存可以单独买，运营商就不必为了多拿容量而连 GPU 一起买。内存不够就只扩内存，这才是省钱的大头。 3.蓝图很美，但请先看这几处“注脚” 第一，东西还没做出来。目前处于硅前阶段（芯片还没流片），计划 2027 年才给客户送样，离量产和规模化部署还差得远。 第二，“省钱”是说法，不是数字。Marvell 的博客提到“每 GB 内存成本更低、推理成本更低”，Celestial AI 的幻灯片承诺降低总拥有成本（TCO），但都没有给出任何支撑数据。资本开支节省目前只是一个论点，不是可以核算的数字。 第三，时机有点尴尬。这套方案要用128条DDR5内存条，而当下恰逢内存短缺——服务器 RDIMM 的价格已经涨到危机前的约5.5倍。相当于在最贵的时候囤货。 第四，创新成色要打个折。这套架构 Celestial AI在2025年就公开展示过（同样是 16 模块、32TB DDR5 + 约 1TB HBM），TechRadar 2024年就报道过其 DDR5+HBM方案。Marvell带来的增量，是实体模块、自家徽章和一张采样时间表。 第五，16 块 GPU也要打个引号。32TB是16个模块拼起来的整机数字，不是单个模块的容量；所谓共享给 16 台主机，主机可以是一整台服务器、也可以是单个加速器，所以16块 GPU既可能低估了覆盖范围，又可能高估了单块GPU实际能分到的带宽。 4.英伟达不会袖手旁观——它早就出手了，而且多线并进 英伟达不是刚反应过来的，它的布局已经持续超过一年： 一边入股对冲。 2026 年 3 月，英伟达向 Marvell 投资20亿美元，合作涉及 NVLink Fusion和硅光子学，黄仁勋宣称“推理的转折点已经到来”。更关键的是，每个 NVLink Fusion 平台都必须至少包含一款英伟达产品——也就是说，就算定制芯片抢走了插槽，英伟达照样收钱。 一边自己下场。 英伟达为同一个“内存难题”准备了好几套答案： 一是更大的现成内存：一台 Vera Rubin NVL72 机架就能装 54TB 的 LPDDR5X 内存，比 Marvell 整台设备的内存还多； 二是专用存储层：GTC 2026 上发布的 BlueField-4 STX，是