SRv6赋能AI计算——释放算力效能,优化智算成本
- +1 你赞过了
【天极网IT新闻频道】人工智能基础设施正在进入一个新的发展阶段。下一代互联网国家工程中心主任刘东近日撰文提出,过去几年行业*关注的是图形处理器(GPU)等加速芯片的供给和计算能力,模型规模不断扩大,“拥有多少GPU”“能够提供多少峰值算力”一度成为衡量AI基础设施能力*直观的指标。随着AI集群从数百张、数千张加速卡进一步向万卡乃至更大规模发展,单纯增加计算资源已经不能等比例提高系统的实际产出。AI基础设施正在从“有没有足够多的算力”,进一步走向“这些算力能不能被真正高效地组织起来”。
原因并不复杂。大规模AI计算不是把大量GPU简单放在一起独立运行,而是把模型、数据和计算任务拆分到大量加速器上并行执行。不同设备之间需要持续交换参数、中间结果和缓存状态,并不断访问存储、模型和外部数据。只要通信出现拥塞、路径冲突、尾时延放大或故障恢复迟滞,昂贵的计算资源就可能进入等待。
网络因此开始发生角色变化。传统数据中心网络更多围绕“可达”和通用流量组织展开,而AI计算带来了大规模同步通信、持续大流量、状态迁移和资源动态调度。网络不只要提供更高带宽,还要让不同计算阶段的数据在合适的时间走合适的路径,并在拥塞或故障出现时快速调整。衡量网络价值的尺度,也正在从单一链路性能,进一步转向它对整个AI任务完成效率的贡献。
当网络路径开始直接影响训练迭代、推理响应和资源利用率,路径就从网络内部的技术细节,逐步成为需要被管理和编排的基础设施资源。SRv6的价值也由此更加清晰:它以IPv6为基础,可以把一条流量应当经过的路径和相应处理行为显式表达出来,并由网络按照既定策略执行。这种可编程路径能力,能够把上层计算和传输系统的需求转化为底层网络可执行的路径,使网络路径真正进入AI基础设施的资源组织体系。SRv6也因此正在从传统广域网流量工程和数据中心互联,进一步延伸到AI计算网络内部。本文从中心外部互联,以及中心内部的训练、推理和训推一体四类场景展开分析。
AI基础设施从算力规模走向系统效率
AI基础设施的优化目标,正在从扩大峰值算力规模,进一步转向提高有效算力和系统效率。从智算中心看,中心外部互联、内部训练、内部推理和训推一体四类场景虽然对网络提出不同要求,但都指向同一个变化:网络由“连接算力”进一步走向“组织算力”。
分布式智算中心互联。随着智算资源在不同区域、不同园区和不同云之间分布,单一智算中心越来越难以独立承载所有计算任务,跨区域网络除了提供大带宽连接,还需要根据任务需求、链路状态和服务等级选择更合适的传输路径。
大模型训练。大模型训练通常会把一个任务拆分到大量GPU上并行执行,不同GPU之间需要不断交换参数、中间结果和梯度。例如,张量并行、数据并行等方式都会产生大量数据汇聚、同步和交换。同步训练时,*慢的一组通信往往决定一次训练迭代何时完成,因此网络性能会直接影响GPU等待时间和有效算力利用水平。
分布式推理。推理网络也正在从“一个请求进入一个模型实例”向分布式架构发展。推理过程中产生的键值缓存(KV Cache)需要在节点之间迁移;混合专家(MoE)模型还会让不同专家模型所在GPU之间产生动态通信。此时,网络时延、带宽和节点之间的距离,会直接影响用户看到*输出的速度以及后续内容生成的稳定性。
训推一体。随着智算资源进一步池化,训练、后训练和推理任务越来越可能运行在同一套物理基础设施上。但训练更关注大规模数据同步和持续高吞吐,在线推理则更关注低时延和快速响应。如果所有流量采用相同的网络策略,容易出现资源相互争抢和利用不均,因此物理基础设施需要更精细的网络分域和差异化保障。
外部互联:SRv6让分布式算力从互联走向协同
分布式智算中心互联,是SRv6相对成熟、也*容易理解的应用场景。传统IP网络擅长解决“从A点到B点如何可达”,但当模型文件、训练检查点、数据和推理任务在不同算力中心之间频繁流动时,网络还要回答“哪条路更适合当前任务”。单纯依靠*短路径或等价多路径,难以持续表达低时延、高可靠、带宽保障和绕开特定区域等更复杂的业务要求。
SRv6的优势在于可以把这些要求直接转化为可执行路径。边缘设备或控制系统可以根据业务策略选择一组网络节点和链路,SRv6负责把这条路径表达在IPv6报文中,再由网络按策略转发。与服务质量保障、网络切片和网络遥测等机制结合后,实时推理、模型分发、跨区域训练等不同流量可以采用不同路径和保障策略,而不必依赖全网频繁调整路由。
这一能力正在从传统广域网进一步延伸到AI计算网络。IETF的《SRv6 End-to-End DC Frontend and WAN》技术草案,尝试把AI后端、数据中心前端和广域网纳入一致的SRv6使用模式。阿里云在IETF 125公开的“IPv6 & SRv6 Powering AI Computing”材料中,也把高性能、大规模、可预测的AI计算网络作为整体目标,并展示了面向超大规模集群和跨区域AI流量的SRv6路径选择实践。
因此,中心外部真正需要解决的,不只是建设更多连接,而是让网络能够承接不同算力任务的带宽、时延和可靠性要求,把分散在不同区域的算力更有效地组织起来。SRv6提供的正是这种跨域算力协同所需要的可编程路径能力,使“算力在哪里”和“数据怎么走”能够更好地协同。
内部训练:SRv6构建高吞吐、高韧性训练网络
大规模AI训练的跨服务器互联主要存在InfiniBand高速互联和AI以太网等技术路线,SRv6的路径编程价值主要体现在以太网体系中。在这类网络里,RoCEv2通常利用远程直接内存访问(RDMA)技术,让数据能够绕开CPU,在GPU内存和网卡之间高效传输。
问题在于,传统RoCE网络往往依靠等价多路径(ECMP)按流量特征进行哈希选路。普通数据中心中,大量独立数据流通常能够较自然地分散到不同链路;但AI训练流量往往持续时间长、带宽占用大,如果多个“大象流”被分到同一条链路,就可能形成局部拥塞,而其他链路仍有空闲。对于同步训练,这种局部拥塞会放大为整个任务的等待。
OpenAI、微软等在2026年公开的MRC(多路径可靠连接)+SRv6方案提供了具有代表性的生产实践。MRC在RoCE基础上强化多路径传输和故障处理能力,一个连接可以同时使用多条路径,并把数据包分散到多个独立网络平面。这一方案已部署在其大规模NVIDIA GB200超级算力中心中,并用于前沿模型训练。在这一架构中,SRv6 的价值已经不只是比 ECMP 提供更灵活的选路,而是建立了端侧传输决策与物理网络路径之间的确定性映射。一旦出现拥塞或故障,端侧可以直接停用相应路径,能在几十微秒量级识别并绕过故障路径。路径*次从交换机内部不可见的转发结果,变成传输系统可以识别、选择、监测和恢复的对象。
IETF的《SRv6 for Deterministic Path Placement in AI Backends》技术草案进一步把这种模式概括为“确定性路径放置”:由端侧传输机制选择具体物理路径,再通过uSID把路径写入IPv6数据包,中间网络则保持简单、高速转发。这使得SRv6在训练网络中的角色发生了变化:它从传统流量工程进一步走向AI传输系统可以直接调用的路径表达和执行机制。其意义在于,把“哪条路径更适合当前通信”从网络内部的被动选择,提升为端侧传输与网络协同做出的显式决策。
从性能测试看,这种路径控制并未以牺牲网络吞吐为代价。在OpenAI的案例中,无论T0本地通信还是跨T1通信,MRC+SRv6体系均实现约770Gb/s的GPU到GPU带宽,约达到800Gb/s理论峰值的96%。路径控制不再只是网络内部的优化问题,而开始直接影响训练任务能否持续运行、GPU能否保持高效工作,以及昂贵算力能否真正转化为有效计算产出。
内部推理:SRv6推动从拓扑感知走向动态感知
分布式推理正在把网络从“请求入口”推向计算流程内部。随着模型越来越大、上下文越来越长、并发请求越来越多,业界开始把预填充和解码分别部署到不同GPU资源池,两类资源可以根据业务压力独立扩缩容。NVIDIA Dynamo已经支持这种解耦式推理架构,并可通过NIXL(NVIDIA推理传输库)在不同GPU之间传递键值缓存。当预填充和解码跨节点、跨机架部署时,推理效率不仅取决于“哪块GPU有空”,还取决于“缓存状态在哪里、搬过去有多远”。
这给SRv6留下了进一步发挥作用的空间。现有的拓扑感知主要解决“目标节点选谁”,NVIDIA也已经在Dynamo中提供拓扑感知的KV缓存传输能力,并将其标注为实验性功能。如果未来还要根据带宽、拥塞、故障和时延动态判断“到这个节点具体走哪条路”,就需要更细粒度的路径控制。此时,AI调度系统负责选择计算节点和状态位置,NIXL、RDMA等机制负责搬运数据,SRv6则可以把路径选择转化为网络实际执行的转发行为。
Microsoft Research在2026年初发布的研究报告《Towards Fully-Controllable Packet Steering for AI Backend Networks with SRv6》,已经同时面向分布式AI训练和推理,讨论用SRv6实现更细粒度的流量控制、负载均衡和故障恢复。这说明SRv6向推理网络延伸并非孤立设想,但与训练侧相比,其大规模生产实践仍处在更早阶段。更值得关注的是,推理网络正在出现与训练网络相似的演进趋势:从只关心节点可达和拓扑距离,进一步走向计算位置、状态位置与网络路径的协同优化,路径也可能成为推理调度可以利用的另一类资源。
训推一体:SRv6支撑统一承载与差异化保障
训练和推理并不必然对应两套完全独立的物理基础设施。GPU节点、高速网络、存储和机房资源都在走向池化和弹性复用,尤其在后训练阶段,大规模采样生成、奖励评估和参数更新往往交替进行,训练与推理本身就是同一AI生命周期中的连续环节。
但基础设施统一,并不意味着不同业务可以无差别地“混跑”。训练流量往往更关注持续高吞吐,在线推理更关注低时延和低抖动;有些数据搬运需要尽快完成,有些后台数据则可以容忍更长时间。更合理的网络形态是“物理网络统一、逻辑资源分域、网络策略差异化”。
SRv6可以与服务质量保障、网络切片、网络遥测以及RoCE、MRC、UET(超以太网传输)等机制协同,根据任务类型把不同流量组织到合适的路径和网络资源中。与拥塞控制、带宽保障等机制配合后,SRv6提供统一的路径表达和编程能力,使共享网络在提高复用率的同时降低不同任务相互干扰的风险。从更大范围看,训推一体反映的是AI基础设施从专用、割裂的资源烟囱走向统一资源池的趋势。网络既要统一承载,也要能够按照不同任务进行差异化组织,SRv6为这种“统一底座、差异化保障”提供了可编程路径能力。
SRv6释放算力效能,优化智算成本
随着AI调度、传输机制和高速网络逐步协同,SRv6的重要性越来越高:当计算系统已经明确任务的节点、状态和通信需求后,SRv6可以把这些需求进一步转化为明确、可执行的网络路径。SRv6正在从传统路由与流量工程能力,进一步演进为AI基础设施中的可编程路径层,成为连接需求与执行的纽带。
智算中心中SRv6的技术栈定位(参考示意图)

可以用一句话概括这几个层次的关系:AI调度系统决定“去哪算”,传输机制决定“怎么传”,SRv6决定“具体怎么走”,底层网络负责“高速执行”。更重要的是,这种分工建立了一种新的跨层协同关系:上层计算和传输系统不再只是把流量交给网络,网络也不再只能独立地按固定规则寻找路径,而是可以根据任务意图执行明确的路径策略。其本质,是让路径从隐藏在设备内部的转发结果,变成上层系统可以识别、选择和组织的资源。
从架构上看,这使SRv6的意义超出了传统“优化路由”的范畴。随着AI集群规模扩大、推理状态不断跨节点流动以及训推资源逐步池化,未来AI基础设施需要计算、传输和网络之间形成更加紧密的协同。SRv6可以为这种协同提供统一、可执行的路径表达,使网络能力能够从中心间互联延伸到中心内部,并在不同层级保持一致的路径编程逻辑。
SRv6 对智算成本的影响,不只来自网络设备本身,而更多来自系统级的成本传导。一方面,可编程路径和多路径传输减少局部拥塞、故障等待和 GPU 空转,提高昂贵计算资源的有效利用率;另一方面,当网络可以通过更高的路径利用率和更强的故障容忍能力支撑更扁平的多平面架构时,还可能减少为实现同等网络规模和可靠性所需要的网络层级、交换设备和光连接资源。单位训练任务、单位 Token 和单位有效算力的基础设施综合成本都将随之下降。
AI时代,网络带宽、时延仍然重要,但更重要的是这些网络能力能否转化为更短的训练时间、更稳定的推理服务和更高的基础设施利用率,SRv6的价值正在于此。
从广域互联到AI训练后端,再到分布式推理和训推协同,背后是一条一致的演进方向:计算提出需求,传输组织数据,网络根据任务意图提供可编程路径,计算、传输和网络逐步形成闭环。SRv6恰好处在这一交汇点上,它既继承IPv6面向大规模网络的端到端能力,又把路径编程进一步延伸到AI基础设施内部,为计算与网络协同提供可以落地执行的路径层。
SRv6赋能AI计算,可以让同样的算力工作得更高效、更可靠、更经济,可以将网络技术优势真正转化为有效算力优势和AI基础设施效率优势。
类型:广告最新资讯
热门视频
新品评测
X
微博认证登录
QQ账号登录
微信账号登录