犀思云LOGO
知识中心 行业知识库 算力互联的工程实践:像调度云资源一样调度算力,网络层要做什么?

算力互联的工程实践:像调度云资源一样调度算力,网络层要做什么?

发布日期: 2026-10-13作者: 犀犀来源: 犀思云浏览: 5

算力调度从政策文件走向工程落地后,卡点往往不在资源发现环节,而在数据能否准时到达。中国工程院院士刘韵洁在 2024 中国算力大会上给出的对比是:过去 5 年 GPU 算力增长约 90 倍,网络带宽只增长 10 倍(来源:腾讯云开发者社区/钛媒体)。算力互联的工程难点已经转向网络层——训练数据同步慢、跨地域推理时延抖动、跨云调度不可控,这些问题都发生在数据中心之间的广域传输路径上。本文聚焦广域网层工程任务,不展开数据中心内 NVLink、InfiniBand、RoCE 的集群内互联,也不深入训练框架和调度算法。网络层要完成四件事:跨域感知、弹性带宽、确定性传输、统一编排。

算力互联的工程实践:像调度云资源一样调度算力,网络层要做什么?

一、问题界定:为什么算力互联先卡在网络层

1. 现象:资源找得到,数据跑不动

三类现象在 AI 平台团队中反复出现。训练数据同步慢:数据采集端在边缘,模型训练在多个云上,跨地域传输一波增量数据动辄数小时。跨地域推理时延抖动:用户请求路由到就近节点后,到推理集群的链路波动让首包时延忽高忽低。跨云调度不可控:资源平台能发现多个云上有空闲 GPU,任务迁移后却发现数据拉取时间远超预期。它们的共同点是指向广域网传输,而不是 GPU 算力本身。

2. 根因:算力与带宽的增长剪刀差

刘韵洁在 2024 中国算力大会上公布的数据是:过去 5 年 GPU 算力增长约 90 倍,网络带宽仅增长 10 倍(来源:腾讯云开发者社区/钛媒体)。带宽增速跟不上算力增速,训练时长被传输环节拉长。中国电信研究院傅志仁在行业讨论中给过一个判断:算力本身不能调度,能调度的是任务,而任务调度带动的海量数据流通才是产业需要破解的难题(来源:人民邮电报/工信微报)。工信部 2025 年 5 月印发《算力互联互通行动计划》(工信部信管〔2025〕119 号),中国信通院同期启动算力互联网试验网,行业重心正从单点算力中心建设转向跨域网络互联。

3. 定界:文章只谈广域网层,不碰集群内互联

数据中心内 GPU 互联涉及 NVLink、InfiniBand、RoCE 等协议,这属于云厂商与算力资源方的范畴。本文讨论的算力网络范围是数据中心之间的广域连接,包括跨云互联、跨城传输、边缘到云接入三类场景。网络层工程能力在这三类场景中要解决的核心问题是:让数据在算力节点之间以可预期的方式流动。

二、算力互联网络层的四项工程任务

1. 跨域感知:先看清算力节点与网络状态

云调度系统能感知虚机的 CPU、内存、可用区,算力调度同样需要感知各节点的网络可达性、带宽余量、实时时延。感知对象不只是 IP 通断,要覆盖多云接入点、骨干 POP 节点、边缘站点的链路状态。工信部算力平台和中国信通院试验网正在推进的算力标识与协议接口标准化,方向就是让跨域资源状态可以被统一读取,而不是各节点各用各的接口。

2. 弹性带宽:让网络跟得上任务峰谷

训练流量、推理流量、数据采集流量的时间分布差异很大。一个典型 AI 业务中,训练阶段带宽需求可以是推理阶段的 200 倍,数据采集的峰均比可达 60 倍。如果网络按固定带宽配置,那么训练高峰期会被卡住,或推理阶段被迫为闲置带宽付费。 工程上需要按需开通带宽、支持非对称配置,让采集上行和推理下行各用各的规格,避免用"弹性"一词掩盖具体配置项的缺失。

3. 确定性传输:把不同流量分开保障

训练、推理、采集、管理四类流量如果混跑在同一条链路上,推理请求会被训练流量挤占,表现就是推理时延突然变大。差异化 QoS 的做法是把流量分优先级:推理流量进延迟敏感队列,训练流量用固定带宽与 QoS 分离配置,采集流量走弹性带宽与非对称链路,管理流量用 Best-effort。"确定性"在这里不是保证零丢包,而是让不同等级流量进入不同优先级队列,使关键路径可预期。

4. 统一编排:把连接、策略、流量收进一个控制台

网络层不只是一堆专线和 SD-WAN 设备堆在一起。统一编排的价值类似云资源控制台:连接状态、QoS 策略、流量路径、调度任务在一个界面可视可控。平台还需要提供 API,让上层调度系统在发起任务迁移前先查询链路状态,做到"先看网络再调度"。网络可视化能力和 API 集成调度能力,决定了一张算力网络是工程系统还是运维负担。

三、跨地域算力调度网络怎么设计:从架构到可用性

1. 架构选择:预连接多云与骨干节点,缩短打通时间

传统做法是"一云一专线一申请",每接入一个云或一个新地域都要走开通流程,周期以周计。工程上更适合预连接主流云厂商和骨干 POP 节点,把多云互联做成默认就绪的状态。中国信通院提出的"先互联、再成网、同步建市场"思路,落在网络层就是先完成生态级互联,再谈分钟级任务调度。如果每个算力节点都要临时拉专线,那么跨域调度的时效性就无从谈起。

2. QoS 与冗余:生产流量优先,双链路提升可用性

生产环境不能只买一条专线,单点故障会直接中断训练或推理服务。核心训练与推理流量建议双链路冗余,管理流量可走 Best-effort。公开资料显示,部分 NaaS 服务商通过双链路冗余可将可用性从单链路 99.9% 提升到 99.99%,故障恢复时间从 4-8 小时压缩到 1 小时以内。

3. 运维指标:把"网络好不好"变成可验证的数字

网络团队需要盯住五个核心指标:可用性、丢包率、抖动、MTTR、开通时长。指标要分流量类型看:训练流量看吞吐和稳定性,推理流量看首包时延和尾部时延,采集流量看峰谷弹性。只看平均带宽会掩盖峰值时刻的真实体验,也回答不了"为什么训练时长波动这么大"。

四、给网络团队的指标清单:从口号到可验证

1. 先按流量类型定基线,不按"平均带宽"看网络

训练流量的关键指标是吞吐和稳定性,推理流量的关键指标是首包时延和尾部时延,采集流量看峰谷弹性。自检入口是:先梳理业务里的训练、推理、采集、管理流量,再检查现有网络能不能区分优先级。 如果所有流量共用一条链路、一个队列,问题会在业务高峰期集中爆发。

2. 把可用性目标拆成三个可测指标

至少跟踪三个数字:SLA 可用性、MTTR、关键业务抖动。可用性从 99.9% 到 99.99% 不只是小数位变化,背后是双链路和故障切换机制。网络团队可以直接对照供应商 SLA 口径提问:99.99% 是按月计还是按年计、切换时间多长、丢包率按什么采样窗口统计。用数字代替"稳定"这个词。

3. 行动建议:先验证三件事,再决定怎么改

第一步,画一张算力节点与数据流向图,标出每条链路承载的流量类型。第二步,给训练、推理、采集、管理流量定优先级和带宽规格。第三步,选一个跨地域场景做小范围网络验证,记录丢包、抖动与恢复时间。这三步做完,再评估是否需要调整链路冗余或引入统一编排平台,而不是一开始就推翻现有网络。

五、常见问题解答

算力互联网络层需要解决哪些问题?

四类问题:跨域网络状态不可见、带宽不能随任务伸缩、不同流量互相挤占、故障定位慢。分别对应跨域感知、弹性带宽、确定性传输、统一编排四项能力,缺一不可。

像调度云资源一样调度算力需要什么网络条件?

至少要有可感知的跨域状态、可按任务开通的弹性带宽、按流量类型分级保障的 QoS、以及统一编排接口。这是基本网络条件,不是可选增强项。如果缺少其中任何一项,跨域调度就会退化成"人工确认链路再手动切流量"。

跨地域算力调度网络怎么设计?

先预连接多云与骨干节点形成网络底座,再用双链路冗余和差异化 QoS 保障生产流量,最后用统一平台做可视与调度。重点是先有生态互联,再有分钟级任务调度。网络层建设顺序反了,上层调度系统做得再好也快不起来。

AI 训练跨云数据传输对网络的要求有哪些?

需要高吞吐、低抖动、可预测的传输。训练流量应与推理流量分开保障,避免相互挤占。训练流量带宽需求通常远超推理,弹性带宽和 QoS 分离是两项关键配置。如果训练和推理共用一条链路且无优先级划分,推理服务的尾部时延会被训练任务明显拉高。

算力专线和云专线的区别是什么?

云专线主要解决企业上云和混合云连接问题,算力专线更关注跨地域算力节点之间的互连、弹性带宽和流量分级保障。前者重上云,后者重跨域算力协同,两者有重叠但目标不同。

本文由犀思云技术团队撰写,含相关产品服务信息,仅供技术交流。

微信咨询

售前咨询

售前咨询,定制化解决方案