ReelOS.AI 禅定|这篇文章先记住一句话
AI Compute Fabric 不是“更快的网线”,而是 GPU 集群的算力组织方式。
- GPU 很贵。
- 但 GPU 越多,越依赖协同,而不是单卡性能。
- 协同分两层:节点内 Scale-up,节点间 Scale-out。
- Scale-up 解决一台服务器 / 一个机箱内 GPU 的高速互连,典型技术是 NVLink、NVSwitch、PCIe。
- Scale-out 解决服务器之间、机柜之间、集群之间的高速通信,典型技术是 InfiniBand、RoCE、RDMA。
- 训练和推理都会产生大量 GPU 间数据交换。
- 数据交换慢,GPU 就等待;GPU 等待,就是算力浪费。
- RDMA 减少 CPU 参与和内存拷贝,降低通信延迟。
- RoCE 在以太网上实现 RDMA,让以太网也能服务 AI 集群通信。
- 所以 AI Compute Fabric 的核心,不是连接 GPU,而是减少 GPU 空转,把理论算力变成有效算力。
过去理解数据中心,很多人会把 GPU、CPU、存储、网络分开看。
GPU 是算力。存储是数据。网络是连接。运维是保障。
但 AI 工厂改变了这个分工。
当训练任务从单机走向上千卡、上万卡,网络不再只是“把服务器连起来”的配套设施,而是决定 GPU 能不能一起工作的核心系统。
更准确地说,AI 工厂采购的不是一堆 GPU,也不是一批交换机,而是一套能够持续交付有效算力的系统。
这里的关键词不是 theoretical FLOPS,而是 effective compute。
也就是:
买来的理论算力,有多少真正转化成了训练吞吐、推理吞吐和单位时间内可交付的 Token。
这就是为什么 InfiniBand、RoCE、Spectrum-X、Ultra Ethernet 会成为 AI 基础设施里的高频词。
它们不是简单的网络名词,而是几种不同的 AI Compute Fabric 构建路线。
一、核心判断:AI 工厂的瓶颈,正在从“有没有 GPU”转向“GPU 能不能协同”
AI 集群不是把 GPU 堆在一起就完成了。
大模型训练通常会把模型、数据、梯度、激活值和专家路由拆分到不同 GPU 上。GPU 在本地完成一段计算之后,必须与其他 GPU 交换信息,才能进入下一轮计算。
这意味着 AI 训练不是单点计算,而是同步计算。
如果通信慢,GPU 就会等待。
如果网络拥塞,GPU 就会空转。
如果尾延迟抬高,整个训练 step 就会被慢节点拖住。
如果多任务互相干扰,集群利用率就会下降。
所以,AI 工厂里的网络价值,不应该只按“交换机多少钱、端口多少、速率多高”来理解,而应该按它保护了多少 GPU 时间来理解。
一句话:
在 AI 工厂里,网络不是连接 GPU 的成本项,而是把 GPU 时间转化为有效算力的放大器。
二、学习地图:先建立完整知识框架
要理解 AI 工厂网络,可以按五层学习。
| 层级 | 要回答的问题 | 关键词 |
|---|---|---|
| 第 1 层:通信模式 | GPU 之间到底在传什么? | AllReduce、ReduceScatter、AllGather、AllToAll |
| 第 2 层:传输机制 | 数据如何绕开 CPU 高效传输? | RDMA、GPUDirect RDMA、NIC、PCIe |
| 第 3 层:网络路线 | 跨服务器 GPU 通信走哪种 Fabric? | InfiniBand、RoCE、Ethernet |
| 第 4 层:系统平台 | 谁把网卡、交换机、拥塞控制、遥测做成端到端系统? | Spectrum-X、UFM、AI Ethernet |
| 第 5 层:产业选择 | 企业应该选哪条路线? | 性能确定性、开放生态、运维复杂度、厂商绑定、有效带宽 |
这篇文章的目标不是让你记住几个网络名词,而是建立一张判断地图:
当一个 AI 集群性能不达预期时,你知道应该从哪里定位问题;当你选择 IB、RoCE 或 Spectrum-X 时,你知道自己真正选择的是什么。
三、AI Compute Fabric 到底是什么?
Fabric 直译是“织物”或“网状结构”。
在 AI 基础设施里,Fabric 指的不是某一根网线、某一台交换机,而是一套让大量计算节点协同工作的通信系统。
它包括:
| 组成 | 作用 |
|---|---|
| NIC / SuperNIC | 服务器侧的网络入口,负责高速收发、RDMA、拥塞控制等 |
| Switch | 交换转发,决定流量如何穿过集群 |
| Topology | 拓扑结构,例如 Fat Tree、Dragonfly、多平面网络 |
| RDMA | 让数据绕开 CPU 和内核路径,直接在内存之间传输 |
| GPUDirect RDMA | 让网卡与 GPU 显存之间建立更直接的数据通路 |
| Congestion Control | 拥塞发现、标记、降速、分流 |
| Telemetry | 采集队列、丢包、延迟、链路、作业等状态 |
| Runtime | NCCL、MPI、DeepEP、训练框架等通信运行时 |
| Operations | 部署、调优、告警、故障定位、容量规划 |
所以,AI Compute Fabric 可以这样理解:
AI Compute Fabric 是连接 GPU 集群的高性能通信系统,它的目标不是“连通”,而是让分布式计算在高负载、大规模、多任务情况下保持高有效带宽、低尾延迟和可预测性能。
四、NCCL:理解 AI 网络的入口
很多人谈 AI 网络,一上来就谈交换机和端口速率。
这容易误入歧途。
真正应该先看的,是 AI 训练的通信原语。
NVIDIA NCCL 是 GPU 集合通信库,官方文档列出了 AllReduce、Broadcast、Reduce、AllGather、ReduceScatter、AlltoAll、Gather、Scatter 等 collective operations。其中 AllReduce 会把多个 rank 的数据规约后分发给所有 rank;ReduceScatter 会规约后把结果切分给不同 rank;AlltoAll 则是每个 rank 向其他 rank 发送不同数据并接收不同数据。
这几个操作决定了 AI 网络为什么特殊。
| 并行方式 | 典型通信 | 网络压力 |
|---|---|---|
| 数据并行 Data Parallel | AllReduce / ReduceScatter | 梯度同步,流量大,强同步 |
| 张量并行 Tensor Parallel | AllGather / ReduceScatter | 层内高频通信,对延迟敏感 |
| 流水并行 Pipeline Parallel | Send / Receive | 阶段间传输,受调度和 bubble 影响 |
| 专家并行 Expert Parallel / MoE | AllToAll | Token 动态路由,热点难预测,尾延迟敏感 |
普通互联网业务可以容忍少量请求晚一点返回。
大规模同步训练不能轻易容忍某些 GPU 长时间掉队。因为一个慢节点,可能拖住整个 step。
五、RDMA:为什么 AI 网络不能只靠 CPU 转发?
RDMA 的全称是 Remote Direct Memory Access,即远程直接内存访问。
它的核心价值是减少 CPU 参与和内存拷贝,让一台机器上的数据更直接地写入另一台机器的内存区域。
在 GPU 集群里,更关键的是 GPUDirect RDMA。NVIDIA 官方文档说明,GPUDirect RDMA 允许 GPU 与第三方 PCIe 设备之间建立直接数据交换路径,网络接口卡就是典型的第三方设备之一。
这意味着,在理想路径下,GPU 通信不必每次都绕到 CPU 和系统内存里做多次拷贝。
可以简化成:
| 传统路径 | 更高效路径 |
|---|---|
| GPU → CPU 内存 → 内核网络栈 → NIC → 网络 → NIC → CPU 内存 → GPU | GPU 显存 ↔ NIC ↔ 网络 ↔ NIC ↔ GPU 显存 |
这就是 InfiniBand 和 RoCE 都高度关注 RDMA 的原因。
它们真正解决的不是“网络能不能通”,而是“GPU 与 GPU 之间的数据交换能不能少走弯路”。
六、系统位置:网络在 AI 工厂里处在哪一层?
一个 AI 工厂可以分成四个关键层次。
| 层级 | 代表组件 | 解决的问题 |
|---|---|---|
| 单卡计算层 | GPU、HBM | 单个 GPU 的计算与显存能力 |
| 机内互连层 | NVLink、PCIe、NVSwitch | 一台服务器或一个 rack 内 GPU 之间的高速通信 |
| 跨节点 Fabric 层 | InfiniBand、RoCE、Spectrum-X、UEC | 多台服务器、多机柜、多集群之间的通信 |
| 调度与运行时层 | NCCL、MPI、Kubernetes、Slurm、训练框架 | 任务如何切分、调度、通信、恢复 |
InfiniBand、RoCE、Spectrum-X 主要处在第三层:跨节点 Fabric 层。
这也是 AI 集群从“几台机器”走向“大规模工厂”时最容易出问题的一层。
原因很简单:
机内通信距离短、拓扑固定、可控性强。
跨节点通信距离长、路径多、交换层级多、拥塞点多、故障面也更大。
所以,当 GPU 数量从几十张扩到几千张,网络问题会从“偶发性能抖动”变成“系统性算力损耗”。
七、三条路线:InfiniBand、RoCE、Spectrum-X 分别是什么?
先给结论:
| 名称 | 本质 | 核心价值 | 核心代价 |
|---|---|---|---|
| InfiniBand | 专用高性能互连体系 | 高性能、低延迟、确定性、HPC 生态成熟 | 生态相对独立,供应和运维体系更专用 |
| RoCE | 在以太网上承载 RDMA 的技术路线 | 复用以太网生态,供应链更开放,部署更灵活 | 调优复杂,对拥塞控制、队列、PFC/ECN、遥测要求高 |
| Spectrum-X | NVIDIA 面向 AI 负载构建的端到端以太网平台 | 把 RoCE、SuperNIC、交换机、遥测、拥塞控制做成全栈平台 | 更偏 NVIDIA 全栈路线,需要权衡厂商绑定和开放性 |
这三者不是完全平行的概念。
InfiniBand 是一套专用网络体系。
RoCE 是一种在以太网上实现 RDMA 的技术路线。
Spectrum-X 是 NVIDIA 基于以太网和 RoCE,为 AI 工作负载做的端到端平台。
这是理解全文的关键。
1. InfiniBand:用专用体系换确定性
InfiniBand 长期被高性能计算和大规模 AI 训练采用,不只是因为它“快”。
它的价值在于端到端体系。
NVIDIA 对 Quantum InfiniBand 的介绍中强调了 In-Network Computing、SHARP、QoS、拥塞控制、自适应路由、自修复网络以及面向 AI/HPC 的大规模部署能力。
这说明 InfiniBand 的优势不是某一个参数,而是系统确定性。
它更像一条专用高速铁路:
- 轨道是专用的;
- 调度体系是统一的;
- 车辆规格是适配的;
- 拥塞和故障恢复机制是内建的;
- 面向 HPC / AI 集体通信做了长期优化。
对于大规模同步训练,这种确定性很重要。
因为训练性能不只看平均吞吐,还看最慢 step、最差链路、最拥塞时刻、故障恢复期间的性能波动。
InfiniBand 的核心优势可以总结为:
当你追求极致性能、低延迟和可预测集群行为时,InfiniBand 仍然是最成熟的高性能互连路线之一。
它的代价也明显:体系更专用,设备、软件、运维和人才体系都更接近 HPC 世界,不像以太网那样广泛融入传统云数据中心生态。
2. RoCE:把 RDMA 带进以太网,但把复杂度带给工程团队
RoCE 的全称是 RDMA over Converged Ethernet。
它的目标很直接:
在以太网上实现 RDMA。
这对云厂商和企业数据中心很有吸引力,因为它们本来就有大量以太网设备、布线、光模块、交换机和运维体系。
RoCE 的难点不是“能不能跑起来”,而是“能不能在大规模、高负载、同步通信下稳定跑”。
RoCE 网络通常要处理:
| 工程项 | 作用 |
|---|---|
| PFC | 优先级流控,用于降低特定队列丢包 |
| ECN | 显式拥塞标记,让端侧知道网络开始拥塞 |
| DCQCN | 数据中心量化拥塞通知,结合 ECN / PFC 进行速率调节 |
| Queue / Buffer | 队列和缓存规划,避免热点和队头阻塞 |
| ECMP / Load Balancing | 多路径负载均衡 |
| Telemetry | 链路、队列、丢包、延迟、PFC pause、作业性能监控 |
| QoS | 多业务、多租户、多任务隔离 |
| Topology | Fat Tree、Clos、多平面、机柜域设计 |
RoCE 的本质是一种权衡:
用开放的以太网生态换部署灵活性,同时把更高的系统调优复杂度交给网络工程、运维和平台团队。
所以,RoCE 不是“普通以太网插上 GPU 就能跑 AI 训练”。
更准确地说:
RoCE 是以太网生态进入 AI 高性能互连的主流路线,但它需要被当作一套工程系统设计,而不是一项网卡功能开关。
3. Spectrum-X:NVIDIA 把 AI Ethernet 做成端到端平台
Spectrum-X 经常被拿来和 InfiniBand、RoCE 放在一起比较,但它不是第三种独立协议。
Spectrum-X 是 NVIDIA 面向 AI 负载构建的以太网平台。
NVIDIA 官方介绍中,Spectrum-X 包括 Spectrum-X Ethernet Switches 和 Spectrum-X Ethernet SuperNICs,并强调它面向 AI training 和 distributed inference,提供 GPU-to-GPU 通信所需的高有效带宽和性能隔离。官方还提到 Spectrum-X Multiplane 能通过两层拓扑扩展到 128K GPUs。
这说明 Spectrum-X 的定位不是“新协议”,而是“AI Ethernet 平台化”。
它试图解决 RoCE 的核心痛点:
- RoCE 有开放生态,但调优复杂;
- 普通以太网负载均衡不理解 AI 通信节奏;
- 单纯靠交换机无法完整解决 GPU 通信问题;
- 多租户、多任务、故障恢复和遥测需要端到端闭环。
所以 Spectrum-X 的核心逻辑是:
让网卡、交换机、拥塞控制、遥测和 AI 通信软件协同工作,把以太网改造成更适合 AI 工厂的 Compute Fabric。
一句话总结:
Spectrum-X 是 NVIDIA 对 RoCE 以太网的“AI 工厂封装”:把开放以太网路线做成更接近 InfiniBand 确定性的产品平台。
八、为什么 AI 网络越来越重要?
第一,因为 AI 训练越来越同步。
大模型训练不是一堆 GPU 独立工作。它们必须在大量 step 中反复同步。只要有一部分通信慢下来,其他 GPU 就可能等待。
这就是所谓的 straggler effect:少量慢节点拖住整体。
AI 训练不是看某条链路的峰值,而是看整个通信系统在高负载下的稳定性。
第二,因为 MoE 把网络压力进一步放大。
传统 Dense 模型已经需要大量 AllReduce、ReduceScatter、AllGather。MoE 模型则引入了更多 AllToAll 通信。
因为每个 Token 可能被路由到不同专家,而专家又可能分布在不同 GPU、不同服务器甚至不同机柜。
这会带来三个变化:
| 变化 | 影响 |
|---|---|
| 通信更动态 | Token 路由不同,热点更难预测 |
| 流量更碎片化 | 小包、突发、跨节点通信增加 |
| 尾延迟更重要 | 某些专家过载会拖慢整体推理或训练 |
第三,因为单位 Token 成本开始取决于系统效率。
AI 基础设施最终要回到经济账。
对于训练,网络影响的是训练周期、GPU 利用率、实验迭代速度、作业失败和重启成本、多任务并发效率。
对于推理,网络影响的是吞吐、延迟、TTFT、ITL、多租户隔离和单位 Token 成本。
所以,AI 网络被重新定价的根本原因是:
网络节省的不是网络成本,而是 GPU 时间、机房资源、电力资源和模型迭代窗口。
九、产业逻辑:不是协议之争,而是三种建厂方式之争
1. InfiniBand 路线:专用体系优先
适合:
- 超大规模训练集群;
- 对性能确定性要求极高的场景;
- 团队愿意采用完整高性能互连体系;
- 更重视稳定交付,而不是多厂商开放选择。
核心问题:
我是否愿意为更强确定性接受更专用的技术栈?
2. RoCE 路线:开放生态优先
适合:
- 已经有强以太网基础设施的云厂商;
- 希望复用交换机、光模块、布线和运维体系的企业;
- 有能力做网络调优、遥测、自动化和故障定位的团队;
- 希望降低对单一专用网络体系依赖的客户。
核心问题:
我是否有足够强的网络工程能力,把开放以太网调成高性能 AI Fabric?
3. Spectrum-X 路线:以太网平台化
适合:
- 希望采用以太网,但又不想完全自行承担 RoCE 调优复杂度的客户;
- 已经大规模采购 NVIDIA GPU 的 AI 工厂;
- 希望网卡、交换机、AI 通信软件和遥测体系更紧密协同的团队;
- 需要多租户性能隔离、故障恢复和大规模扩展能力的云厂商。
核心问题:
我是否愿意用 NVIDIA 全栈平台换取更强的端到端优化?
4. Ultra Ethernet 路线:开放标准重构高性能以太网
除了 Spectrum-X 这种厂商全栈路线,另一个重要方向是 Ultra Ethernet Consortium。
UEC 在 2025 年 6 月发布 Specification 1.0,官方说明它覆盖 NIC、交换机、光互连、线缆等多个层面,目标是为 AI 和 HPC 工作负载提供开放、可互操作的高性能以太网栈。
更值得关注的是 UET,也就是 Ultra Ethernet Transport。
Ultra Ethernet 的突出贡献之一,是尝试从传输层、拥塞控制、互操作标准和硬件实现上重构高性能以太网。
未来 AI 网络的产业格局,很可能不是简单的“InfiniBand 被以太网取代”,而是形成三层市场:
| 市场层次 | 可能路线 |
|---|---|
| 极致性能与确定性 | InfiniBand |
| 超大规模开放云基础设施 | RoCE / UEC / UET |
| NVIDIA GPU 全栈 AI 工厂 | Spectrum-X / InfiniBand 双路线并存 |
十、容易被误读的地方
| 常见表达 | 可能误读 | 更准确的理解 |
|---|---|---|
| 网络成为算力的一部分 | 网络变成了计算芯片 | 网络不是计算芯片,但它决定理论算力能转化成多少有效算力 |
| Spectrum-X 与 InfiniBand、RoCE 一起讨论 | 三者是同一层级的协议 | InfiniBand 是体系,RoCE 是协议路线,Spectrum-X 是端到端以太网平台 |
| RoCE 把 RDMA 带到以太网 | 普通以太网直接升级就能跑 AI 训练 | RoCE 需要拥塞控制、队列、PFC / ECN、遥测、拓扑和端侧调优 |
| 早期强调无损网络,现在强调端到端拥塞控制 | PFC 已经过时或不重要 | PFC 仍常见,但行业希望减少对全局暂停机制的过度依赖 |
| 以太网会取代 InfiniBand 吗? | 未来只有一个赢家 | 更可能是市场分层:极致性能、开放云、全栈平台各有选择 |
| 看 400G / 800G 速率 | 端口速率等于训练性能 | AI 网络更应该看有效带宽、尾延迟、隔离能力、故障恢复和 NCCL 性能 |
十一、如何选择 AI 网络路线?
如果你是算力供应商、云厂商、企业基础设施团队,不要先问“IB 还是 RoCE”。
应该先问五个问题。
1. 工作负载是什么?
| 工作负载 | 网络重点 |
|---|---|
| Dense LLM 训练 | AllReduce / ReduceScatter 有效带宽 |
| MoE 训练 | AllToAll、热点、负载均衡、尾延迟 |
| 分布式推理 | TTFT、ITL、多租户隔离 |
| RAG / Agent 工作负载 | 存储网络、东西向流量、任务调度 |
| 多租户云服务 | 性能隔离、QoS、可观测性 |
2. 集群规模是多少?
| 规模 | 网络策略 |
|---|---|
| 8–64 GPU | 重点看机内互连、基础 RoCE / IB 配置 |
| 128–1024 GPU | 开始关注拓扑、NCCL 调优、拥塞控制 |
| 1000–10000 GPU | Fabric 设计、遥测、自动化、故障隔离成为核心 |
| 10000+ GPU | 需要平台级设计,不能靠人工调参 |
3. 团队能力在哪里?
| 团队能力 | 更适合路线 |
|---|---|
| HPC / 超算经验强 | InfiniBand |
| 以太网云网络经验强 | RoCE / UEC |
| NVIDIA 全栈部署能力强 | Spectrum-X |
| 网络团队薄弱 | 尽量选择更完整的交付方案,而不是拼装式方案 |
4. 供应链目标是什么?
| 目标 | 倾向 |
|---|---|
| 最快交付高性能训练集群 | InfiniBand / Spectrum-X |
| 多厂商供应选择 | Ethernet / UEC |
| 与现有云网络融合 | RoCE |
| 与 NVIDIA GPU 平台深度协同 | Spectrum-X / InfiniBand |
5. 真正要优化的指标是什么?
不要只看端口速率、单链路带宽、交换机容量、设备单价。
更应该看:
| 指标 | 含义 |
|---|---|
| NCCL Bus Bandwidth | 通信库真实可用带宽 |
| Step Time | 训练单步耗时 |
| P95 / P99 Latency | 尾延迟 |
| MFU | 模型 FLOPS 利用率 |
| Job Completion Time | 作业完成时间 |
| Goodput | 有效吞吐,而不是理论吞吐 |
| Failure Recovery Time | 链路或节点故障后的恢复时间 |
| Tenant Isolation | 多任务互不干扰能力 |
AI 网络选型的核心不是:
哪个协议更先进?
而是:
哪条路线能在你的工作负载、团队能力和预算条件下,交付最高有效算力?
十二、对创业者、产品经理和基础设施团队的启发
1. 对创业者:AI 基础设施的机会不只在 GPU
很多创业者看到 AI 基础设施,只想到 GPU 租赁。
但真正的机会在有效算力交付。
未来客户不会只问:“你有多少张卡?”
客户会越来越关心:
- 训练能不能稳定跑完?
- NCCL 性能怎么样?
- 多租户是否互相影响?
- 故障后多久恢复?
- 推理延迟是否稳定?
- 单位 Token 成本有没有优势?
- 是否有完整监控、调优和诊断能力?
所以,算力创业不是简单卖 GPU 小时,而是卖一套可交付、可观测、可优化的 AI Compute Platform。
GPU 是资产入口。
网络是效率杠杆。
调度是运营系统。
监控是信任基础。
成本模型是商业闭环。
2. 对产品经理:把网络能力产品化,而不是停留在工程黑盒
AI 网络很容易被藏在工程团队内部。
但真正成熟的 AI 云平台,应该把网络能力产品化。
例如:
| 产品能力 | 用户价值 |
|---|---|
| 集群健康评分 | 让客户知道集群是否适合训练 |
| NCCL Benchmark 报告 | 让客户看到真实通信能力 |
| 网络拥塞热力图 | 帮助定位慢任务和热点链路 |
| 作业级网络画像 | 解释为什么某个训练任务变慢 |
| 多租户隔离等级 | 给企业客户 SLA 信心 |
| 故障影响分析 | 告诉客户链路故障是否影响训练 |
| Token 成本拆解 | 把网络效率映射到业务成本 |
产品经理应该理解:
AI 云平台卖的不是机器,而是确定性。
确定性越强,客户越愿意把核心训练和推理任务放上来。
3. 对基础设施团队:RoCE 不是采购问题,是系统工程问题
如果选择 RoCE,千万不要把它看成“买支持 RoCE 的网卡和交换机”。
真正要建设的是一套 RoCE Fabric 工程体系:
| 模块 | 关键工作 |
|---|---|
| 拓扑设计 | Clos、Fat Tree、多平面、机柜域 |
| 队列规划 | PFC 优先级、buffer、QoS |
| 拥塞控制 | ECN、DCQCN、端侧速率调节 |
| 路径均衡 | ECMP、adaptive routing、流量打散 |
| 遥测系统 | 队列深度、PFC pause、drop、latency、NCCL 指标 |
| 自动化 | 配置一致性、基线检查、变更回滚 |
| Benchmark | NCCL Tests、OSU、真实训练 replay |
| 故障演练 | 链路故障、交换机故障、节点抖动、性能退化定位 |
RoCE 的价值来自开放以太网生态。
RoCE 的风险也来自开放系统复杂度。
没有自动化、遥测和基准测试,RoCE 很容易变成“能跑,但不稳定;便宜,但不好交付”。
4. 对投资人和产业观察者:AI 网络正在成为算力产业的新定价层
未来 AI 基础设施的估值,不应该只看 GPU 数量。
更应该看:
- GPU 利用率;
- 网络有效带宽;
- 作业成功率;
- 多租户隔离能力;
- 自动化运维能力;
- 单位 Token 成本;
- 客户任务留存;
- 大规模扩展能力。
当 GPU 成为昂贵资产,所有能提升 GPU 利用率的系统都会被重新定价。
这包括高性能网络、光互连、DPU / SuperNIC、调度系统、遥测系统、故障定位系统、训练和推理优化框架。
这也是为什么 AI 网络从“设备采购项”变成了“算力资产效率层”。
十三、结语:未来的算力竞争,是 Fabric 竞争
AI 工厂不是数据中心换了一个名字。
它是一种新的计算组织方式。
在这个系统里:
GPU 决定单点计算能力。
HBM 决定模型和 batch 的承载能力。
NVLink / PCIe 决定机内通信效率。
InfiniBand / RoCE / Spectrum-X 决定跨节点协同效率。
NCCL / MPI / DeepEP 决定通信如何被软件调用。
调度和遥测决定系统能否稳定运营。
所以,真正的 AI 工厂不是“GPU 很多”,而是“GPU 能被持续、高效、可预测地组织起来”。
InfiniBand 的价值,是用专用体系换取高性能和确定性。
RoCE 的价值,是把 RDMA 带入开放以太网生态。
Spectrum-X 的价值,是把 AI Ethernet 做成端到端优化平台。
UEC / UET 的价值,是推动以太网阵营走向开放、高性能、可互操作的新标准。
最终,这场竞争不是协议之争,也不是端口速率之争。
它竞争的是:
谁能把更多理论 FLOPS,转化成真实可交付的有效算力。
AI 工厂时代,网络不再只是连接算力。
网络本身,正在成为有效算力的一部分。
参考资料
- NVIDIA NCCL Collective Operations:用于理解 AllReduce、ReduceScatter、AllGather、AlltoAll 等 GPU 集合通信原语。
- NVIDIA GPUDirect RDMA:用于理解 GPU 与 NIC / PCIe 设备之间的直接数据交换路径。
- NVIDIA Quantum-X800 InfiniBand:用于理解 InfiniBand 的 In-Network Computing、SHARP、QoS、拥塞控制、自适应路由和自修复 Fabric。
- NVIDIA Spectrum-X:用于理解 Spectrum-X Ethernet Switch、SuperNIC、AI Compute Fabric、性能隔离和 Multiplane 架构。
- Ultra Ethernet Consortium Specification 1.0:用于理解 UEC 的开放以太网标准路线。
- NVIDIA RoCE Documentation:用于理解 RoCEv2、UDP/IP 封装、PFC、ECN 与无损以太网关系。