ReelOS.AI 禅定|先看懂这条推理链
OCS 不是光交换机参数,而是可重构 AI Fabric 的控制权。
- GPU 很贵。
- GPU 集群越大,越依赖 GPU 之间的连接关系。
- 连接关系不匹配,数据就绕路。
- 数据绕路,就拥塞。
- 拥塞一发生,GPU 就等待。
- GPU 等待,就是算力浪费。
- 传统网络拓扑相对固定。
- 但 AI 任务的通信模式有结构、可预测、分阶段。
- OCS 的价值,是按任务、Pod、故障域和训练阶段重构光路。
- 它不替代所有交换机。
- 它重构的是部分高带宽、相对稳定、可预测的连接。
- 真正难的不是一台 OCS 设备。
- 而是任务画像、拓扑规划、SDN 控制、遥测系统和故障恢复闭环。
- 所以 OCS 的本质,是把 AI 集群网络从固定布线,升级为可被软件调度的物理拓扑资源。
过去讨论 AI 集群网络,大家最关心的是带宽:
400G、800G、1.6T、InfiniBand、RoCE、CPO、硅光、光模块。
但当 GPU / TPU 集群继续扩大后,一个更底层的问题开始出现:
网络不只是要更快,还要能不能根据任务改变形状。
OCS,Optical Circuit Switching,光电路交换,正是为这个问题重新进入产业视野。
它不是更快的以太网交换机,也不是 CPO 的替代品。它更像一层由软件控制的“光纤配线系统”:当某个训练任务需要一组 GPU、机柜或 Pod 之间形成高带宽连接时,OCS 可以通过光路重构,把原本固定的连接关系重新组织起来。
本文的核心判断是:
OCS 的本质,不是“用光替代电”,而是让 AI 集群第一次拥有可被软件调度的物理拓扑。
换句话说,未来 AI 集群调度的不只是 GPU 数量,也包括 GPU 之间的连接关系。
一、学习地图:先把 OCS 放到 AI 网络的正确位置
理解 OCS,不能只从“光交换机”开始。它要放在 AI 集群网络的整体分层里看。
| 层级 | 代表技术 | 解决的问题 | OCS 所在位置 |
|---|---|---|---|
| 芯片内 / 封装内 | HBM、片上 NoC、封装互连 | 芯片内部数据搬运 | 否 |
| 单机 / 机柜内 Scale-up | NVLink、NVSwitch、PCIe、UBB | 多 GPU 如何组成高带宽计算域 | 否 |
| 跨节点 Scale-out | InfiniBand、RoCE、Spectrum-X、Quantum | 多服务器 / 多机柜之间如何通信 | 部分相关 |
| 光电转换层 | 光模块、硅光、CPO、NPO | 电信号如何变成光信号,如何降低功耗 | 否 |
| 拓扑重构层 | OCS / OXC / SDN 控制面 | 当前哪些端口应该直接连到哪些端口 | 是 |
这张表的关键是:
OCS 不主要解决“单条链路有多快”,而是解决“这批计算节点此刻应该怎样连接”。
Google 在 Jupiter 数据中心网络演进中公开披露,MEMS OCS、集中式 SDN 和自动化运维,是其从 Clos 架构演进到 direct-connect 拓扑的重要组成部分,并带来了速度、容量、成本和功耗上的系统收益。
所以,OCS 不是普通网络器件升级,而是一种新的系统能力:
把数据中心内部一部分物理连接关系,从固定布线变成可被软件控制的拓扑资源。
二、核心概念:OCS 到底是什么?
1. OCS 不是逐包转发,而是先建立光路
传统交换机处理的是 packet。
每个数据包进入交换机后,设备要读取报文头、查表、排队、缓存、转发。它适合处理大量来源不同、目的不同、持续变化的小流量。
OCS 处理的是 circuit。
它不关心每个 packet 的目的地址,而是在端口之间先建立一条光路。一旦光路接通,光信号就沿着这条物理路径传输,中间不需要在 OCS 内部反复做光电转换、查表和排队。
可以这样理解:
| 类型 | 类比 | 工作方式 |
|---|---|---|
| 电交换机 | 城市路口 | 每辆车到路口都要判断往哪里走 |
| OCS | 可编程高速专线 | 先把 A 和 B 之间的专用通道接好 |
| 光模块 / CPO | 车的动力系统 | 解决信号如何高速、低功耗地进入光纤 |
一句话:
OCS 更像一台由软件控制的高速光纤配线架,而不是一台更快的以太网交换机。
2. MEMS OCS 为什么常被提到?
当前数据中心里讨论较多的一类 OCS 是 MEMS-based Optical Circuit Switch。
MEMS,即 Micro-ElectroMechanical Systems,微机电系统。简单理解,就是在设备内部使用可微小转动的镜面阵列,把输入端口的光束反射到目标输出端口。
它看起来像“自动帮你重新插光纤”,但真正执行动作的是软件控制下的微型镜面,而不是人工进入机房换跳线。
OCS 的关键指标包括:
| 指标 | 含义 |
|---|---|
| 端口规模 | 一台设备能连接多少输入 / 输出端口 |
| 插入损耗 | 光信号经过设备后损失多少 |
| 重构速度 | 从一种连接关系切换到另一种需要多久 |
| 稳定性 | 长期运行中光路是否可靠 |
| 控制接口 | 能否被 SDN、调度器、运维系统统一管理 |
| 遥测能力 | 能否观测端口状态、光功率、错误和重构事件 |
这也是为什么 OCS 不是只看硬件参数。真正难的是:
硬件、控制面、调度器、遥测系统和故障恢复机制要形成闭环。
三、系统位置:OCS、CPO、光模块、IB/RoCE 分别解决什么?
OCS 经常和 CPO、硅光、1.6T 光模块、InfiniBand、RoCE 放在一起讨论,但它们不是同一层技术。
| 技术 | 核心问题 | 所在位置 | 是否替代 OCS |
|---|---|---|---|
| 光模块 | 电信号和光信号如何转换 | 链路接入层 | 否 |
| 硅光 | 用硅基工艺集成光学器件 | 器件 / 封装层 | 否 |
| CPO | 把光学引擎靠近交换 ASIC,降低高速电连接损耗 | 交换机内部封装层 | 否 |
| InfiniBand | 高性能包交换网络,服务 HPC / AI scale-out | 网络协议与交换层 | 否 |
| RoCE | 在以太网上跑 RDMA | 网络协议与交换层 | 否 |
| OCS | 重构端口之间的物理光路 | 拓扑与连接层 | 本身不是包交换网络 |
NVIDIA 的 Spectrum-X Photonics 和 Quantum-X Photonics 属于 CPO / 硅光方向,核心是把硅光能力集成到交换 ASIC 封装附近,以提升 AI 网络的能效、密度和可靠性。
这说明一个关键区别:
CPO 优化的是交换机内部的光电协同,OCS 改变的是集群内部的连接关系。
未来 AI 集群可能不是某一种技术单独胜出,而是多层组合:
| 网络位置 | 可能技术组合 |
|---|---|
| GPU 机柜内部 | NVLink / NVSwitch / UBB |
| 跨机柜 scale-out | InfiniBand / RoCE / Spectrum-X / Quantum |
| 高速链路接入 | 800G / 1.6T 光模块、硅光、CPO |
| 跨 Pod / Spine / Rail / 高带宽域 | OCS + SDN 控制面 |
| 调度系统 | Job Scheduler + Topology Planner + Telemetry |
所以,OCS 的正确定位不是“替代所有网络”,而是:
在合适的位置,把部分高带宽、相对稳定、可预测的连接,从固定电交换路径改造成可重构光路。
四、为什么 AI 集群开始需要 OCS?
1. AI 网络不是普通云网络
传统数据中心流量来自网页、存储、数据库、微服务、虚拟机等业务。它们的特点是请求多、来源杂、连接碎、路径变化快。
AI 训练流量不同。
一次大模型训练,不是每台服务器独立完成任务,而是大量 GPU / TPU 不断同步参数、梯度、激活值和专家路由结果。训练效率高度依赖跨设备通信是否稳定、低延迟、高带宽。
更重要的是,AI 训练流量具有明显结构。
| 并行方式 | 典型通信 | 对网络的压力 |
|---|---|---|
| Data Parallel / FSDP | AllReduce、ReduceScatter、AllGather | 大规模同步,带宽压力高 |
| Tensor Parallel | 高频 AllReduce / AllGather | 延迟敏感,更适合靠近 GPU 的 scale-up 域 |
| Pipeline Parallel | Stage 间 Send / Recv | 邻接关系明确 |
| Expert Parallel / MoE | All-to-All / Expert Routing | 流量矩阵复杂,动态性强 |
| Context Parallel | 长上下文切分通信 | 随序列长度和并行策略变化 |
这意味着 AI 网络不是只有“更大流量”这一个问题,而是出现了更强的结构化流量、阶段化流量、可预测通信图谱,以及不同训练阶段的拓扑需求。
2. 固定拓扑会造成过度预留
传统 AI 网络通常倾向于构建高带宽、低阻塞的固定 fabric,例如 fat-tree、Clos、Dragonfly、rail-optimized fabric 等。
问题是:固定 fabric 往往要假设“任何节点都可能随时和任何节点大量通信”。这会带来三个代价。
| 代价 | 说明 |
|---|---|
| 交换容量冗余 | 为峰值和最坏情况预留大量交换能力 |
| 光模块和交换芯片成本 | 交换层级越多,光模块、交换 ASIC、线缆越多 |
| 功耗和散热压力 | AI 网络功耗在大规模集群中越来越不可忽略 |
OCS 的思路是反过来:
既然 AI 任务的通信关系可以被训练图、并行策略和调度系统部分预测,那么网络拓扑也可以跟着任务变化。
这就是“按需换路”的真实含义。
它不是每个 packet 都换路,而是当某个训练任务、某个 Pod、某个通信阶段需要特定连接关系时,系统提前建立或切换光路。
五、Google 案例:OCS 真正重构的是网络控制权
OCS 不是只存在于论文和概念演示里。Google 是目前最重要的公开样本之一。
但理解 Google 案例时,要分成两条线。
案例一:Google Jupiter 数据中心网络
Jupiter 讨论的是数据中心网络 DCN。
Google 在 Jupiter Evolving 论文中披露,其数据中心网络在十年演进中实现了速度与容量提升、capex 降低和 power 降低;关键架构变化包括使用 MEMS OCS 的 direct-connect 拓扑、集中式 SDN 控制和自动化网络运维。
这个案例说明:
OCS 的价值不只是光路本身,而是和 SDN、流量工程、拓扑工程、自动化运维结合在一起,改变数据中心网络的组织方式。
案例二:Google TPUv4 超级计算机
TPUv4 讨论的是 AI 加速器超级计算机互连。
Google TPUv4 论文披露,TPUv4 是一个 4096-chip 的机器学习超级计算机,OCS 被用于动态重构 interconnect topology,以改善 scale、availability、utilization、modularity、deployment、security、power 和 performance。
USENIX NSDI 2024 论文进一步披露,Google TPUv4 系统通过动态重构处理机器、芯片和链路故障,提升系统可用性,并能优雅处理训练任务遇到的硬件故障。
这里的重点不是“Google 用了 OCS”,而是:
Google 把 OCS 纳入了调度、故障检测、自动重构、硬件恢复和训练任务管理的闭环。
也就是说,真正被重构的不只是网络拓扑,而是网络控制权。
六、产业逻辑:为什么 OCS 现在重新变热?
OCS 不是全新概念。它现在重新被关注,是因为 AI 基础设施同时触发了三条曲线。
1. AI 集群规模曲线
GPU / TPU 数量从几百、几千走向几万、几十万时,东西向流量会快速增加。
大模型训练、MoE、长上下文、多模态模型,都会让跨设备通信更频繁、更密集、更难用传统固定拓扑完全覆盖。
2. 网络功耗与成本曲线
传统 electrical packet switch fabric 随着 400G、800G、1.6T 演进,需要更强交换 ASIC、更多光模块、更复杂散热和更高供电能力。
OCP 在 OCS 白皮书中也指出,传统 Electrical Packet-Switch fabrics 面临 congestion、power consumption 和 scalability constraints,而 AI / ML workload 需要更高带宽、可预测低延迟和大规模同步。
3. 软件定义基础设施曲线
AI 集群的调度系统正在从“分配机器”走向“分配计算图”。
未来调度器需要同时理解:
| 系统对象 | 过去怎么管 | 未来怎么管 |
|---|---|---|
| GPU | 分配卡数 | 分配拓扑位置、通信关系、故障域 |
| 网络 | 固定连接 | 可观测、可调度、可重构 |
| 任务 | 提交 job | 映射到特定资源图谱 |
| 故障 | 人工排障 | 自动隔离、重构、恢复 |
| 成本 | 粗粒度核算 | 按任务、链路、拓扑计算成本 |
Open Compute Project 的 OCS Subproject 也把重点放在开放规格、SDN 集成、遥测监控、AI cluster optimization 和互操作性上。
这说明行业已经意识到:
OCS 的落地不是单台设备问题,而是开放控制栈、遥测系统和调度协同问题。
七、常见误区:理解 OCS 必须避开的 6 个坑
误区一:OCS 会替代所有交换机
不会。
OCS 适合大带宽、持续时间较长、连接关系相对明确的流量。普通管理流量、小包流量、随机短流,仍然更适合传统电交换网络。
更准确的说法是:
OCS 替代的是部分高成本、高功耗、可预测的电交换路径,而不是整张 AI 网络。
误区二:OCS 等于 CPO
不等于。
CPO 是交换机内部的封装与光电协同问题;OCS 是集群拓扑层的连接重构问题。
误区三:OCS 可以像软件路由一样实时变化
不能简单这么理解。
MEMS OCS 的重构存在物理切换时间,不能等同于 packet-level 路由表更新。
更准确的表达是:
OCS 不是让网络每毫秒变形,而是让网络在任务级、Pod 级、故障恢复级,甚至某些训练阶段边界上具备可重构能力。
误区四:Google TPUv4 经验可以直接复制到普通 GPU 集群
需要谨慎。
TPUv4 是 Google 自研 TPU、ICI fabric、3D torus、调度系统和硬件恢复机制共同组成的垂直集成系统。
普通 GPU 集群通常由 GPU、NIC、IB/RoCE 交换机、服务器、第三方调度系统、云平台共同组成,系统边界更复杂。
所以,Google 案例的启发是:
学习 OCS 的系统思想,而不是照搬 TPUv4 的硬件形态。
误区五:OCS 只是一台硬件设备
不是。
一台 OCS 只能切换光路,但它不知道哪条光路最有价值。
真正的 OCS 能力至少包括任务画像、拓扑规划、SDN 控制、遥测系统、故障恢复和性能复盘。
误区六:OCS 只适合训练,不适合推理
目前 OCS 最清晰的价值确实在大规模训练,尤其是同步训练、MoE、跨 Pod 通信等场景。
但随着推理进入大规模并发、多模型路由、长上下文、KV Cache 分层、专家模型和多阶段流水线,部分后端推理集群也可能出现可预测的大带宽通信需求。
不过,推理场景是否适合 OCS,要看通信关系是否足够稳定,而不能简单套用训练逻辑。
八、判断框架:什么样的 AI 集群适合引入 OCS?
可以用这张表判断。
一句话:
OCS 适合“通信模式可预测、网络瓶颈集中、调度系统成熟”的 AI 集群。
如果只是几百张 GPU 的通用 RoCE 集群,OCS 优先级未必高。
如果是万卡级训练集群,并且跨 Pod、rail、spine 已经成为瓶颈,OCS 才开始进入系统性评估区间。
九、创业启发:OCS 的机会不只在硬件
对创业者来说,OCS 最容易被误解成“光开关设备创业”。
但真正有机会的地方,可能在 可重构 AI Fabric 的系统软件层。
1. 拓扑规划软件
输入模型并行策略、任务规模、GPU 健康状态、网络链路状态,输出推荐拓扑。
| 产品 | 价值 |
|---|---|
| Topology Planner | 为训练任务生成逻辑拓扑 |
| Communication Profiler | 分析 DP / TP / PP / EP 的通信压力 |
| What-if Simulator | 模拟不同网络拓扑下的吞吐、MFU、成本 |
| OCS Placement Advisor | 判断 OCS 应放在 spine、rail 还是 pod 间 |
2. 调度器插件
未来 AI 调度器不能只分配 GPU 数量,还要分配 GPU 之间的连接关系。
新的调度逻辑会变成:
我要 1024 张 GPU,不只是要 1024 张空闲卡,而是要一组通信距离、故障域、光路可达性都满足条件的 GPU 子图。
这会推动 Network-aware Scheduling、Failure-domain Aware Placement、Topology-aware Job Packing 和 Reconfiguration Window Planning。
3. OCS 控制面
不同厂商的 OCS 设备、SDN 控制器、遥测系统、调度系统需要被统一管理。
未来可能出现 OCS API Gateway、Topology State Store、Safe Reconfiguration Engine、Health-aware Rerouting、Audit & Replay 等产品形态。
4. AI Fabric 可观测平台
OCS 进入后,网络可观测不再只是交换机端口流量,还要看“拓扑变化本身”。
关键指标包括 Reconfiguration Time、Optical Insertion Loss、Link Health、Topology Utilization、Job-to-Topology Fit、GPU Idle due to Network、Failure Recovery Time 和 MFU Impact。
这类软件产品的价值可能比单纯硬件更容易形成差异化。
十、对产品经理的启发:不要把 OCS 做成“硬件参数表”
产品经理理解 OCS,要抓住一个闭环:
任务画像 → 通信图谱 → 拓扑规划 → 光路配置 → 运行观测 → 故障重构 → 性能复盘
如果只讲端口数、损耗、切换时间,客户会把它当硬件采购。
如果讲“让 AI 任务拥有专属网络形状”,它就变成基础设施平台能力。
可以把 OCS 产品价值分成三层:
| 层级 | 客户感知 | 价值表达 |
|---|---|---|
| 设备层 | 一台光开关 | 端口、损耗、可靠性 |
| 网络层 | 一张可重构 Fabric | 降低冗余、提升带宽利用率 |
| 平台层 | AI 任务拓扑调度系统 | 提升训练效率、降低 GPU 空转、提升可用性 |
真正高价值的 OCS 产品,不是“我有一台 OCS”,而是:
我能让你的训练任务、网络拓扑和故障恢复形成闭环。
十一、对基础设施团队的启发:先问 8 个问题
一个 AI 基础设施团队在考虑 OCS 之前,应该先问清楚这些问题:
| 问题 | 为什么重要 |
|---|---|
| 当前瓶颈是在 GPU 内部、机柜内、跨机柜,还是跨 Pod? | OCS 只适合特定网络层级 |
| 当前训练任务的通信模式是否稳定、可预测? | OCS 不适合完全随机短流 |
| 是否已经有 DP / TP / PP / EP / FSDP 的通信画像? | 没有通信画像,就无法做拓扑规划 |
| 现有调度器能否感知网络拓扑? | OCS 需要调度系统协同 |
| 网络故障是否显著影响训练任务完成率? | 故障重构是 OCS 的重要价值之一 |
| 是否有足够遥测能力观测光链路和拓扑状态? | 没有可观测,就无法自动恢复 |
| OCS 重构时间是否会影响 iteration time? | 切换延迟必须进入训练效率模型 |
| 引入 OCS 后,运维复杂度是否可控? | OCS 是系统工程,不是单点硬件 |
正确路径应该是:
| 阶段 | 目标 |
|---|---|
| 第一阶段 | 做通信画像,确认网络瓶颈 |
| 第二阶段 | 做拓扑仿真,评估 OCS 位置 |
| 第三阶段 | 小规模 PoC,验证重构收益 |
| 第四阶段 | 接入调度器和遥测系统 |
| 第五阶段 | 扩展到 Pod / Spine / Rail 级别 |
| 第六阶段 | 形成自动重构和故障恢复闭环 |
十二、理解校准:原文中容易被误读的地方
1. 不要把 OCS 描述成“实时按需换路”
更准确的说法是:
OCS 是任务级、拓扑级、故障恢复级的物理连接重构,不是 packet-level 的实时变形。
2. Google 案例要拆成 Jupiter 和 TPUv4 两条线
Jupiter 是数据中心网络 DCN 演进。
TPUv4 是 AI 加速器超级计算机互连。
两者都使用 OCS 和 SDN 思想,但系统位置不同,不能混成一个案例讲。
3. 不要让读者误以为 OCS 会替代 IB/RoCE
OCS 更可能与 IB/RoCE/CPO/光模块共存。
它替代的是部分电交换路径,而不是完整 AI 网络协议栈。
4. 国内产业判断要从“概念热度”转向“系统验证”
更值得关注的不是厂商是否发布 OCS 概念,而是:
| 判断点 | 核心问题 |
|---|---|
| 大端口设备 | 是否能进入真实集群 |
| 插入损耗 | 是否满足大规模链路预算 |
| 控制接口 | 是否能接入 SDN / 调度器 |
| 遥测能力 | 是否能做可观测和自动恢复 |
| 客户验证 | 是否有真实训练任务数据 |
| 生态兼容 | 是否能和 IB / RoCE / CPO / 光模块体系共存 |
结语
OCS 的价值,不是简单地“用光替代电”。
它真正代表的是 AI 基础设施的一次范式变化:
GPU 不再只是被分配,GPU 之间的物理邻接关系也开始被分配。
过去,数据中心网络像一座提前修好的城市。道路、路口、主干线在建设时已经决定,后续任务只能在固定道路上寻找路线。
OCS 带来的变化,是让部分主干道可以根据任务重新连接。
它不会取代所有交换机,也不会让网络为每一个数据包即时变形。它更适合处理大带宽、长持续、通信关系相对明确的 AI 任务,让调度系统不只理解“有多少 GPU”,也理解“这些 GPU 应该怎样连接”。
未来 AI 集群的竞争,不只是谁拥有更多 GPU,也不只是网络端口速率更高。
更关键的是:
谁能把 GPU、网络、调度器、拓扑和故障恢复组织成一套可编排的计算系统。
OCS 是这条路线上的重要信号。
它提醒我们:AI Factory 的下一步,不只是算力工厂,而是 可重构的算力工厂。
参考资料
- Google Research: Jupiter Evolving: Transforming Google’s Datacenter Network via Optical Circuit Switches and Software-Defined Networking
- USENIX NSDI 2024: Resiliency at Scale: Managing Google’s TPUv4 Machine Learning Supercomputer
- arXiv: TPU v4: An Optically Reconfigurable Supercomputer for Machine Learning with Hardware Support for Embeddings
- Open Compute Project: Optical Circuit Switching Subproject
- NVIDIA: NVIDIA Spectrum-X Photonics and Quantum-X Photonics
- arXiv: Photonic Rails in ML Datacenters with Opus
- arXiv: Scheduling Parallel Optical Circuit Switches for AI Training