研究摘要

过去几年,AI 竞争的主线很清楚:更大的模型、更多的数据、更强的算力、更高的 benchmark。

但随着前沿模型能力持续逼近,AI 系统真正进入生产环境后,新的瓶颈开始出现。

企业不只是需要“一个最强模型”,而是需要一套可以稳定运行的智能基础设施:模型可替换,供应商可切换,成本可控制,调用可审计,失败可降级,结果可验证。

所以,AI 基础设施的下一层竞争,不只是:

谁训练出更大的模型?

而是:

谁能把多个模型、多个 Agent、多个供应商,编排成一个可用、可控、可进化的智能系统?

Sakana AI 发布的 Fugu,就是这个方向的一个重要信号。

但必须先把判断放准:

Fugu 不是从 0 到 1 的技术革命,也不是突然发明了多模型协作。它更像是 MoA、多模型路由、AI Gateway 和 learned orchestration 的一次高阶产品化。

它真正重要的地方,不是证明“编排模型已经超越所有大模型”,而是把一个正在发生的趋势推到了台前:

AI 基础设施正在从 Model API,走向 Model Operating Layer。

过去我们关心的是:

哪个模型最强?

接下来更重要的问题会变成:

如何把多个模型变成一个稳定、可控、可进化的系统?

大模型是能力源。 编排层是操作系统。 治理层决定能不能进入生产。 Eval 闭环决定能不能持续进化。


一、背景:为什么“更大的模型”不再是唯一答案?

应用从直接调用模型 API,升级为经过模型操作层进行路由、治理和验证
模型操作层把模型调用从单点 API 变成可治理、可恢复的系统。

大模型当然重要。

没有强模型,就没有能力上限。 没有推理能力,就无法完成复杂任务。 没有大上下文、多模态和工具调用,Agent 很难进入真实工作流。

但当模型能力越来越接近,企业真正要面对的问题会从“能力不足”转向“系统不可控”。

典型问题包括:

  • 模型越来越多,如何选择?
  • 模型价格变化频繁,如何控制成本?
  • 不同模型擅长不同任务,如何匹配?
  • 同一模型不同 provider 的稳定性不同,如何治理?
  • 某个供应商限流、涨价、下架,业务如何不中断?
  • 模型输出不可控,如何验证?
  • 模型调用链路不透明,如何审计?
  • 涉及敏感数据时,如何限制模型和 provider?
  • 模型升级后,如何确认业务效果真的提升?

这些问题不是靠“接一个更强模型”就能解决的。

这意味着,AI 基础设施正在从单点模型能力竞争,走向系统治理能力竞争。

过去的 AI 产品更像:

Application → Model API

未来的 AI 产品会更像:

Application → Model Operating Layer → Router / Gateway / Orchestrator / Eval / Observability → Model Pool

也就是说,模型之上会出现一个新的操作层。

它负责模型选择、任务拆解、上下文管理、成本控制、失败降级、结果验证和审计治理。

这就是模型编排成为 AI 基础设施下一层的原因。


二、Fugu 到底是什么?

Router、Gateway、Orchestrator 三层模型基础设施对比
Router 解决选择,Gateway 解决稳定,Orchestrator 解决复杂任务组织。

Fugu 的产品形态非常关键。

它不是一个单体能力型 LLM,也不是普通意义上的 AI Gateway,而是 Sakana 所说的:

Multi-Agent System as a Model

也就是说,Fugu 把一个多模型、多 Agent 协作系统,包装成了一个看起来像普通模型的 API。

用户不需要手动选择模型,也不需要自己写复杂 workflow。只要调用一个 OpenAI-compatible API,Fugu 在背后完成模型选择、任务拆解、角色分配、上下文传递、验证和结果综合。

Sakana 官方页面的表达是:

One Model to Command Them All

从产品体验看,它像一个普通模型。 从内部结构看,它更像一个 learned orchestrator。

这就是 Fugu 最值得讨论的地方:

它不是单纯的模型选择器,而是试图成为模型指挥层。

传统 LLM Router 解决的是:

给一个 prompt,应该选哪个模型?

Fugu 想解决的是:

给一个复杂任务,应该如何组织多个模型完成?

前者是 routing。 后者是 orchestration。

这两者不是一个层级。


三、先降温:Fugu 不是凭空冒出来的新范式

如果只看技术原创性,Fugu 不应该被高估。

多模型协作早就存在。Mixture-of-Agents 已经提出通过多层 LLM agent 协作,让后一层读取前一层多个模型的输出,再综合出更好的结果。

模型路由也早就存在。RouteLLM、Not Diamond、OpenRouter Auto Router、FrugalGPT 都在解决类似问题:不同任务应该调用不同模型,而不是每次都用最贵、最强的模型。

AI Gateway 也已经存在。LiteLLM、Portkey、OpenRouter 这类系统,已经在做统一 API、多 provider 接入、fallback、限流、负载均衡、成本控制和调用治理。

所以从外部可见能力拆解,Fugu 很像:

MoA + OpenRouter / Not Diamond + LiteLLM / Gateway + 一层 Agent 编排包装。

这不是贬低,而是更准确地定位。

Fugu 的价值,不在于它发明了多模型协作,而在于它把多模型协作、模型路由、任务拆解、角色分配、验证综合、供应商抽象,封装成了一个像基础模型一样调用的产品形态。

更准确地说:

Fugu 的信号不是“多模型协作被发明了”,而是“模型编排正在产品化”。


四、Fugu 到底先进在哪里?

Fugu 的先进性不能简单理解为“多模型协作”。

因为 MoA 已经做过多模型协作。 也不能理解为“自动选模型”。因为 OpenRouter、Not Diamond、RouteLLM 已经做过模型路由。 更不能理解为“多供应商 Gateway”。因为 LiteLLM、Portkey 已经做过统一接入、fallback 和治理。

Fugu 真正值得关注的先进性在三点。

第一,把多 Agent 编排封装成一个普通模型 API

这降低了使用复杂度。

过去开发者要自己写 workflow、自己选模型、自己设计 planner / executor / verifier,自己处理上下文传递和结果综合。

Fugu 把这一层隐藏在一个统一 API 背后。

这件事的产品意义很大:

多 Agent 系统从“开发者自己搭”,变成“像调用一个模型一样调用”。

这就是产品抽象上的先进性。


第二,把编排策略从 hand-written workflow 推向 learned orchestration

这是 Fugu 最值得研究的技术方向。

它背后的 TRINITY 和 Conductor,不只是简单做规则路由,而是尝试让系统学习:

  • 什么时候拆解任务;
  • 什么时候调用哪个模型;
  • 谁负责规划;
  • 谁负责执行;
  • 谁负责验证;
  • 哪些上下文应该传递;
  • 什么时候继续;
  • 什么时候停止。

这意味着,编排策略本身开始成为模型学习的对象。

过去是人写 workflow。 现在是模型学习 workflow。 未来可能是系统根据任务动态生成 workflow。

这就是 learned orchestration 的意义。


第三,把模型编排从技术优化推到基础设施治理

Fugu 的叙事中非常强调 single-vendor dependency、AI sovereignty、export controls。

这部分有营销成分,但击中了真实问题。

企业如果把关键业务完全绑定一个模型供应商,就会面临实际运营风险:

  • 供应商限流;
  • 模型涨价;
  • 模型下架;
  • 区域不可用;
  • API 变更;
  • 合规限制;
  • 出口管制;
  • 数据流向不可控。

所以,模型编排不只是省钱,而是生产韧性问题。

这就是 Fugu 这条信号真正有价值的地方。

它让行业意识到:

模型调用层不只是技术层,而是企业 AI 的控制层。


五、Fugu 的技术基础:TRINITY 和 Conductor

协调器组织 Thinker、Worker 和 Verifier 三类角色协作
编排的关键不是更多模型,而是让不同模型承担规划、执行和验证角色。

Fugu 不是纯营销包装。它背后有明确的研究基础。

Sakana 官方说明,Fugu 基于两条研究路线:TRINITYConductor。两者共同指向一个方向:

learned model orchestration

也就是让系统学习如何组装、路由和协调专家 Agent,而不是完全依赖人类手写 workflow。


5.1 TRINITY:轻量协调器

TRINITY 的核心思想是 test-time model composition

它不修改底层模型权重,而是在推理时用一个轻量 coordinator,把多个模型的能力组合起来。

这个 coordinator 会在多轮过程中从模型池中选择 LLM,并为被调用模型分配不同角色。

这些角色包括:

  • Thinker:负责思考、规划、拆解。
  • Worker:负责执行、求解、生成。
  • Verifier:负责验证、判断、终止。

这点非常关键。

过去我们做 Agent,经常是人类手写流程:先 Planning,再 Execution,再 Reflection。

TRINITY 的方向是:让一个协调器学习什么时候规划、什么时候执行、什么时候验证,以及调用哪个模型来做。

这就是从 prompt workflow 走向 learned orchestration

根据 Sakana 的介绍,TRINITY 的 coordinator 不是大模型本身,而是一个轻量协调结构。它依赖 compact language model 的 hidden states 和小型 routing head,并通过 evolutionary strategy 优化。

这意味着它的研究重点不是“再训练一个大模型”,而是:

在推理时,如何用更小的协调器释放多个模型的组合能力。

这是 Fugu 技术叙事里最有价值的一点。


5.2 Conductor:让模型学会管理模型

Conductor 更接近“模型管理模型”的思路。

Sakana 的介绍非常直接:过去几年,人类一直在做 prompt engineering,试图激发不同 LLM 的最佳表现;Conductor 研究的是,如果训练一个 AI 来做这件事,会发生什么。

Conductor 是一个通过强化学习训练的模型,它不直接执行所有任务,而是输出自然语言形式的协作计划。

它会决定:

  • 调用哪个 agent;
  • 给它什么具体子任务;
  • 让它看到哪些前序信息;
  • 多个 agent 之间如何通信;
  • 什么时候简单回答;
  • 什么时候启动 planner / executor / verifier pipeline。

这句话非常关键:

未来的 Agent 编排,不一定是人类写 DAG,而可能是模型动态生成 DAG。

以前工作流系统是人定义节点:

第一步调用 A,第二步调用 B,第三步验证。

Conductor 的方向是模型自己判断:

这个问题需要几个角色?谁规划?谁执行?谁验证?上下文怎么传?是否需要递归修正?

这不是“多接几个模型”那么简单,而是把编排策略本身变成可学习对象。

不过,也必须保持克制:Fugu 的底层模型池、路由策略、每个模型的贡献路径、失败案例和真实成本结构并不完全透明。所以它是否形成了难以复制的技术壁垒,还需要更多第三方验证。


六、Fugu 的技术定位:不是 Router,而是 Orchestrator

为了理解 Fugu 的位置,可以把模型基础设施拆成三层。

层级核心问题代表项目主要价值
LLM Router这个 prompt 该发给哪个模型?RouteLLM / OpenRouter Auto / Not Diamond / FrugalGPT成本、延迟、质量平衡
AI Gateway多模型、多 provider 如何稳定接入生产?LiteLLM / Portkey / OpenRouterfallback、负载均衡、审计、成本治理
Model Orchestrator一个复杂任务如何组织多个模型完成?Fugu / TRINITY / Conductor / MoA / Router-R1任务拆解、角色分配、验证、上下文编排

Router 解决的是“选择模型”。

Gateway 解决的是“稳定调用模型”。

Orchestrator 解决的是“组织模型完成任务”。

Fugu 最接近第三层。

所以更准确的定义是:

Fugu 不是普通 model router,而是一个以协调模型为核心的 task-level orchestrator。

它把 Router 的“选择模型”提升到 Orchestrator 的“组织智能”。


七、同类项目对比:Fugu 和 MoA、OpenRouter、LiteLLM 到底有什么区别?

为了避免被 Fugu 的官方叙事带跑,必须把它和已有路线放在同一张图里看。

维度FuguMixture-of-AgentsOpenRouter / Not DiamondLiteLLM / Portkey
核心问题如何组织多个模型完成复杂任务如何融合多个模型输出一个 prompt 该选哪个模型多 provider 如何稳定进入生产
技术重点learned orchestration / agent pool coordinationlayered aggregationmodel routinggateway governance
产品形态单一模型 API论文方法 / 实验框架路由服务 / 模型选择层AI Gateway / 基础设施
是否任务拆解是,强调 task-level orchestration弱,主要是输出聚合通常不是重点不是重点
是否关注生产治理部分关注,但黑箱较多不关注部分关注强关注
先进性产品抽象 + 学习型编排多模型融合成本/质量路由稳定性治理
局限模型池、路由策略、成本结构不透明成本高、噪声大多为 single-shot routing不负责复杂任务组织

这张表说明:

Fugu 不是完全新物种。

它更像是把 MoA 的多模型协作、Router 的模型选择、Gateway 的供应商抽象,以及 Conductor / TRINITY 的 learned orchestration 组合成一个产品形态。

所以,对 Fugu 最准确的判断是:

它不是底层技术革命,而是模型编排层产品化的代表案例。


八、为什么模型编排会成为基础设施问题?

供应商限流、涨价、下架或区域限制时,编排层负责切换和降级
模型编排的价值不只是省钱,更是让关键业务不被单一供应商卡住。

过去模型路由主要解决三个问题:

第一,降成本。简单问题不用最贵模型。 第二,降延迟。低难度任务走快模型。 第三,提质量。复杂问题交给强模型。

但现在,模型编排正在被推到更高层:

供应商依赖、出口管制、组织韧性、AI 主权。

Sakana 在 Fugu 页面中强调,它提供的是 “frontier-level performance without single-vendor dependency”,也就是在不依赖单一供应商的情况下获得前沿能力。它还提到,用户可以从 Fugu 的模型池中排除特定模型或 provider,以满足数据、隐私、合规或组织要求。

这背后的现实背景是:前沿模型已经不再只是普通 SaaS 服务,而正在变成战略资产。

2026 年 6 月,Reuters 报道了 Anthropic 的 Mythos 和 Fable 模型出口管制事件。报道提到,美国商务部长在致 Anthropic CEO 的信中要求暂停这些模型的出口和对外国国民的转让,Anthropic 随后表示会在全球范围内关闭相关模型访问。

这件事的信号意义很强:

模型访问权可能因为监管、地缘政治或供应商政策突然变化。

对于个人开发者来说,这可能只是“今天 API 不能用了”。

但对企业、金融、关键基础设施、政府系统来说,这就是运营风险。

如果核心业务只绑定一个模型供应商,一旦出现涨价、限流、模型下架、区域限制、合规调整、出口管制,整个业务链路都会被动。

所以模型编排不再只是“省钱工具”。

它正在变成:

  • 供应商风险管理
  • 合规隔离层
  • 成本控制层
  • 可观测治理层
  • 任务执行编排层
  • AI 主权基础设施

这就是 Fugu 这条信号真正值得关注的原因。


九、模型编排不等于“模型越多越强”

多个模型协作需要停止规则、验证规则和成本意识
高级编排不是堆模型,而是有停止规则、验证规则和成本意识。

这里必须降温。

多模型、多 Agent,并不天然更强。

很多人看到多个模型协作,就会直觉认为:模型越多,结果越好。

但真实情况不是这样。

多模型协作有成本,也有噪声。低质量模型可能拖累整体结果。不同模型之间的输出可能相互污染。复杂编排可能带来更高延迟、更高 token 成本、更难排查的问题。

所以真正高级的模型编排,不是盲目堆模型,而是知道什么时候不该编排。

一个成熟的 Orchestrator 至少要回答五个问题:

  1. 什么时候只用一个最强模型就够了?
  2. 什么时候应该先用便宜模型试探?
  3. 什么时候应该拆成多个子任务?
  4. 什么时候需要独立验证模型?
  5. 什么时候继续调用模型已经不值得?

这才是模型编排的核心难点。

不是“把模型放进池子里”,而是:

知道何时调用、调用谁、调用几次、如何停止。

从这个角度看,真正的壁垒不是模型数量,而是调度策略。


十、Fugu 的性能结果如何看?

Sakana 官方展示了 Fugu / Fugu Ultra 在多个 benchmark 上的结果,包括 SWE Bench Pro、TerminalBench 2.1、LiveCodeBench、LiveCodeBench Pro、Humanity’s Last Exam、GPQA-D、SciCode、Long Context Reasoning 等。

根据官方表格,Fugu Ultra 在多个 coding、reasoning、scientific 和 agentic benchmark 上达到或超过部分公开前沿模型。

但这部分必须谨慎解读。

第一,这是 Sakana 官方评测,不是完全独立第三方评测。

第二,官方脚注说明,部分 baseline 使用 model provider-reported scores。

第三,Fugu 的底层模型池、路由策略、调用轨迹并不完全公开。

第四,benchmark 表现不等于真实业务场景中的稳定收益。

所以更专业的判断是:

Fugu 的 benchmark 结果可以证明“模型编排层可能带来增益”,但不能直接证明“Fugu 已经拥有不可复制的技术壁垒”。

它展示了方向,不等于完成了定论。


十一、Fugu 的边界:它不是 AI 主权的全部

Fugu 的方向重要,但不能把它夸成“AI 主权的完整答案”。

首先,Fugu 本身也是一个商业服务,也会受到自身公司、地区、法规和服务条款影响。官方页面也说明,Fugu 暂未向 EU / EEA 提供服务,其他地区也可能因为网络条件或当地法规而无法访问。

其次,Fugu 并不公开具体调用了哪些底层模型。官方 FAQ 表示,Fugu 选择了哪些模型、如何协调它们属于 proprietary routing information,因此不会向用户暴露。

再次,Fugu Ultra 的模型池更偏固定;普通 Fugu 可以允许用户 opt out 某些模型或 provider,但这仍然不是完全可控的本地化模型治理。

这意味着它解决了一部分问题,也引入了新的黑箱。

对于普通开发者,这可能不是问题。 但对于金融、医疗、政务、国防、企业核心数据系统,仅仅知道“系统会自动编排模型”是不够的。

真正的 AI 主权至少还需要:

  • 本地可部署模型
  • 可控算力资源
  • 数据边界控制
  • 模型调用审计
  • 供应商白名单 / 黑名单
  • 权限与身份系统
  • Eval 和回归测试
  • 成本与 SLA 治理
  • 故障降级策略
  • 合规留痕
  • 模型调用路径可解释
  • 敏感数据流向可控

所以更准确的说法是:

Fugu 不是 AI 主权本身,而是暴露了 AI 主权的新维度:编排主权。

也就是说,企业不只需要模型主权和数据主权,还需要在模型失效、涨价、限流、下架、监管变化时,能够自主切换、降级、审计和恢复。

没有编排主权,多个模型只是多个供应商账号。 有了编排主权,模型池才真正变成能力池。


十二、企业应该建设什么样的模型编排层?

企业 Model Operating Layer 包含模型目录、路由策略、健康检查、Eval、Fallback、成本治理、审计合规和可观测性
企业真正需要的不是模型池,而是经过目录、路由、Eval、成本和审计治理后的能力池。

这部分是 Fugu 对 AI 产品团队最直接的启发。

企业不应该只问:

我们接了哪些模型?

更应该问:

我们是否拥有自己的模型治理和编排层?

一个面向生产的 Model Operating Layer,至少应该包括八个模块。


1. 模型目录

记录每个模型的基础信息:

  • 模型名称
  • provider
  • 上下文长度
  • 输入 / 输出价格
  • 支持能力
  • 适用场景
  • 延迟水平
  • 失败率
  • 是否可用于敏感数据
  • 是否可用于特定地区
  • 是否已上线 / 灰度 / 下架

没有模型目录,就没有模型治理。


2. 路由策略

按不同维度动态选择模型:

  • 任务类型
  • 用户等级
  • 成本预算
  • 延迟要求
  • 准确率要求
  • 合规要求
  • 数据敏感度
  • provider 可用性
  • 历史 Eval 表现

路由策略的目标不是“永远选择最强模型”,而是:

在当前约束下选择最合适的模型。


3. 健康检查

持续监控每个模型和 provider 的状态:

  • 成功率
  • 错误率
  • P50 / P95 / P99 延迟
  • 超时率
  • 限流率
  • 空响应率
  • 内容过滤触发率
  • provider 区域异常
  • 单 key 用量和额度

没有健康检查,fallback 只是纸面设计。


4. Eval 系统

建立自己的业务任务集,而不是只看通用 benchmark。

Eval 应该覆盖:

  • 真实用户任务
  • 高价值业务场景
  • 边界样本
  • 多语言任务
  • 工具调用任务
  • 长上下文任务
  • 代码任务
  • 安全敏感任务
  • 成本和延迟指标

模型升级前,必须先过 Eval。

否则模型切换就是赌博。


5. Fallback 和降级机制

当主模型失败时,系统要能自动切换:

  • 强模型 → 次强模型
  • 推理模型 → 普通模型
  • 外部模型 → 本地模型
  • 多轮 Agent → 单轮回答
  • 自动执行 → 人工审批
  • 高成本路径 → 低成本路径

真正的稳定性,不是没有失败,而是失败后业务不会中断。


6. 成本治理

AI 系统必须知道每一次调用花了多少钱。

需要监控:

  • token 消耗
  • 单任务成本
  • 单用户成本
  • 单模型成本
  • 单 provider 成本
  • 异常成本
  • 预算上限
  • 成本趋势
  • 成本 / 质量比

没有成本治理,模型越强,账单越不可控。


7. 审计与合规

每次模型调用都应该可追踪:

  • 谁调用
  • 调用了哪个模型
  • 输入摘要是什么
  • 输出摘要是什么
  • 数据是否出境
  • 是否触发敏感词
  • 是否调用外部工具
  • 是否经过人工审批
  • 是否发生 fallback
  • 最终结果由哪个模型生成

高合规场景下,黑箱编排不可直接进入核心业务。


8. 可观测性

模型编排不是黑盒魔法,而应该可观测。

系统需要知道:

  • 一个任务经过了哪些模型
  • 每个模型做了什么
  • 哪一步失败
  • 哪一步最慢
  • 哪一步最贵
  • 哪一步改变了最终结果
  • 哪个模型经常被 verifier 否定
  • 哪个 provider 最近质量下降

没有可观测性,就没有持续优化。


十三、ReelOS.ai 的判断

Fugu 代表的不是一个单点产品,而是一个行业阶段变化:

AI 正在从 Model API 时代,进入 Model Operating Layer 时代。

Model API 时代的核心问题是:

哪个模型最强?

Model Operating Layer 时代的核心问题是:

如何把多个模型变成一个稳定、可控、可进化的系统?

这会带来一批新的基础设施机会:

  • AI Gateway
  • LLM Router
  • Model Eval
  • Agent Orchestrator
  • Context Router
  • Cost Controller
  • Provider Governance
  • Compliance Layer
  • Model Observability
  • Workflow-to-Agent Runtime

但对 Fugu 本身,要保持克制判断。

它没有证明“编排一定超过所有大模型”。 它没有证明“多模型天然优于单模型”。 它也没有完整解决 AI 主权问题。 它的底层模型池、路由策略和成本结构仍然不够透明。 它的 benchmark 结果仍需要更多第三方验证。

它真正证明的是:

当模型越来越多、能力越来越接近、价格越来越复杂、监管越来越不确定时,谁掌握模型编排层,谁就掌握 AI 系统的主动权。

未来最强的 AI 系统,可能不是一个巨大的黑箱模型,而是一个由多个模型、多个 Agent、多个工具、多个上下文层组成的协作生态。

单模型决定能力上限。 编排层决定任务完成率。 治理层决定能不能进入生产。 Eval 闭环决定系统能不能持续进化。

这就是 Fugu 这条信号的核心:

下一代 AI 基础设施,不是更大的模型,而是更强的模型操作系统。


十四、可执行原则

  1. 不要只接一个模型。 关键业务至少要有主模型、备选模型和降级模型。
  2. 不要只做模型中转。 中转层必须加入健康检查、成本统计、失败率、fallback 和审计。
  3. 不要盲目多 Agent。 多模型协作有成本、有延迟、有噪声,先判断是否真的需要编排。
  4. 不要手写死 workflow。 复杂任务要逐步引入动态路由、角色分配和验证机制。
  5. 不要迷信单次 benchmark。 真正的模型选择要基于自己的业务 Eval。
  6. 不要把 AI 主权等同于本地模型。 真正的主权是模型、数据、上下文、权限、编排和治理的组合。
  7. 不要把 Agent 当聊天框。 Agent 的下一层核心能力是调度、验证和可复用执行。
  8. 不要等供应商出问题后再治理。 模型层的韧性要在架构设计阶段完成。
  9. 不要把模型池当能力池。 只有经过 Eval、路由、验证和治理的模型池,才是真正的能力池。
  10. 不要只看产品叙事。 对 Fugu 这类系统,要同时看架构、评测、透明度、成本和可控性。

结语

Fugu 不一定是终局,也不一定有不可复制的技术壁垒。

但它把一个趋势讲清楚了:

模型中转正在升级为模型治理,模型治理正在继续走向模型编排。

过去,AI 产品的基础设施是“能不能接上模型”。 现在,AI 产品的基础设施是“能不能稳定治理模型”。 未来,AI 产品的基础设施会变成“能不能动态组织模型完成任务”。

这才是模型编排成为 AI 基础设施下一层的原因。

更大的模型依然重要。

但更大的模型之后,一定会出现更强的编排层。

因为未来的 AI,不只是生成答案,而是组织能力。


参考链接

案例补充 OpenFugu 深度研报:当 GPT、Claude、Kimi 已经是 Agent,外部编排器还有多少价值? 用 OpenFugu 这个具体样本,继续观察外部编排器在 Agent 系统里的真实位置。 2026.06.23