数据中心网络负载平衡布景

当前数据中心承载了当前互联网中的大部门数据流量和利用职能。梦想情况下，数据中心会为分歧用户的分歧利用流量提供差距化的、高吞吐量低时延的服务。其中，数据中心网络传输机能的曲直直接决定了数据中心的服务能力。因而，对数据中心流量进行治理，可能提高网络链路的整体利用率，削减拥塞情况，预防沉传产生。若何设计合理、高效的网络负载平衡规划，成为了建设新型数据中心的关键。 

网络负载平衡面对的挑战

由于当前数据中心的复杂性,使得设计满足要求的数据中心网络负载平衡规划拥有肯定的挑战。

1.流量动态性： 数据中心网络的流量是动态变动的，其中少量的大流占据了网络中大部门负载，而大量的幼流会造成网络状态的剧烈变动, 使得流量调度出现滞后性；这就使得数据中心网络负载平衡设计问题变得越发复杂。

2.拥塞感知难： 由于数据中心网络流量特有的高动态性, 使得对网络拥塞的感知拥有功夫滞后性, 即当前感知到的拥塞信息为从前时的状态。因而，感知网络拥塞情况的正确性和实时性直接决定了负载平衡的机能。

3.数据包乱序：传统数据中心网络的负载平衡技术通常选取基于Flow的调度，HASH推算后选择唯一蹊径通讯，在统一链路上产生矛盾的两个数据流的传输功夫会加倍。而选取Packet粒度进行调度时，由于传输层和谈简直认机造, 这类将Flow宰割成Packet的技术，将会造成数据包的乱序问题。

4.异常流量调度：当网络设备或链路出现故障时，网络中的高低行链路会出现不合称等情况，产生网络的拥塞后，严沉降低了数据的传输效能。负载平衡规划需实时对故障情况进行响应，对网络中被影响的流量进行沉新调度，以优化网络的传输。

数据中心网络多链路负载平衡的问题

数据中心的网络拓扑通常选取CLOS结构，主机之间常存在多条蹊径。为满足吞吐量敏感型流量的需要，将数据流散布到分歧蹊径上进行数据传输。为预防拥塞，提高数据中心内的资源利用率，数据中心网络负载平衡规划通；嵫≡馝CMP(Equal-costmulti-path)技术。 

ECMP（Equal-costmulti-path）意为等价多蹊径路由，即存在多条达到统一个主张地址的相称开销的蹊径。当设备支持等价路由时，发往该主张IP或者主张网段的三层转发流量就能够通过分歧的蹊径分管，实现网络链路的负载平衡。在链路出现故障时，实现急剧切换ECMP的蹊径选择战术有多种步骤：

1. HASH，基于IP五元组进行HASH推算，为流选择指定蹊径

2. 轮询，各个流在多条蹊径之间轮询传输

3. 基于蹊径权沉，凭据蹊径的权沉分配流，权沉大的蹊径分配的流数量更多

ECMP是一种较为单一的负载平衡战术，其在现实使用中也面对很多问题：

1. HASH极化问题

HASH极化问题常见多级负载平衡场景，即多台设备间互联均存在负载平衡，此时若多台设备间使用一样的负载平衡模式或HASH算法令可能出现HASH极化景象。

2. HASH一致性问题

弹性HASH职能开启可确保在单条链路故障时，互换机遇将ECMP组内数据流沉新HASH推算，再进行负载平衡到渣滓有效链路上，其实现可确保原来HASH的流量的一致性。 但是弹性HASH只能确保1个端口或链路故障情况下的hash平衡，而2个及以上端口或链路故障情况下，无法实现HASH的负载平衡。

3. 静态HASH不平衡问题

静态HASH通过算法天生HASH-KEY值，而后凭据HASH-KEY值在链路中拔取一条成员链路对数据包进行转发。静态HASH的弊端是没有思考负载平衡链路中各成员链路的利用率，从而会出现成员链路之间的负载不平衡，尤其当大流出现时，会加剧所选中成员链路的拥塞，随着互换机缓存的加深，会触发PFC和ECN，导致源端降快。

传统以太网构建的数据中心网络通过ECMP HASH实现负载平衡，网络流量特点是大量幼流的情况下能够得到比力梦想地网络负载平衡成效，但是AI训练的流量特点是同时存在肯定数量的大流，这在哈希不均时会出现长尾时延，从而影响训练效能，这也是通过以太网支持大规；到ㄑ盗返囊桓鎏粽。

Cmp冠军RALB负载平衡技术

为相识决上述问题，Cmp冠军在多蹊径流量调度技术上进行了创新，RALB(Remote Adaptive Load Balancing)技术通过感知链路质量，进行逐包的全局动态负载平衡，让网络带宽利用率可达97.6%。

1、逐包动态负载平衡

感知本地链路质量，通过逐包的动态负载平衡战术，实现网络无阻塞，靠近满吞吐。

 静态HASH选取的是逐流负载平衡的方式，HASH推算后选择ECMP组的其中一条链路转发，而动态负载平衡选取的是逐包转发的方式，将Flow宰割成颗粒度更幼的Packet，凭据链路的负载情况，在ECMP组全链路中进行逐包转发。因而，在AI训练场景选取RALB技术，将Read和Write的数据报文宰割成更幼的Packet，进行逐包动态负载平衡，而对于其他类型报文，仍选取静态逐流HASH方式，从而获得更高的带宽利用率。

2、全局负载平衡

通过感知远端链路质量变动，在Leaf层进行精准流量调度，达到全局负载平衡的成效。 

当数据中心网络中产生光
？楣收稀⒒セ换丝诠收匣蚬庀肆绰范峡攘绰饭收系那榭鍪，会形成互换机高低行链路不合称的情况，从而导致互换机出口(Egress port)拥塞。互换机在队列拥塞情况下，对拥塞的数据包做ECN象征并传递给接管端；接管端收到带有ECN象征的数据包后，天生CNP拥塞公告返回给发送端；发送端收到 CNP 报文，对有关优先级的队列进行降快处置。如图中所示Spine1到Leaf2的其中一条链路断开，Spine1到Leaf2之间只有1条100G链路，Leaf1经过Spine1到Leaf2的流量，会在Leaf1上触发出口拥塞，Leaf1入口要降快到100G能力预防拥塞；而发送端降快，会让所有发出的流量一路降快，同时由于逐包负载平衡让Leaf1的上行流量同时降快。如果Leaf1经过Spine1和Spine2到Leaf2的流量是足够平衡的，那么Leaf1经过Spine2到Leaf2的流量也会被降快到100G；因而阐发为整体带宽只有200G；

在网络链路故障时，选取RALB技术，Spine互换机马上感知到链路的变动，并急剧通知TOR互换机，让Leaf1感知到远端链路的变动，对去往Leaf2的流量进行远端自适应负载平衡，将更多的流量调度到下一跳为Leaf2的链路上，实现流量全局的负载平衡。选取RALB技术后，对主张为Leaf2且经过Spine1的2条链路流量进行精准降快，而不影响其他去往Leaf2的链路流量。如图中所示利用RALB技术之后，Leaf1只会往Spine1转发1/3到Leaf2的流量，往Spine2转发另表2/3到Leaf2的流量，最终能够充分利用上Leaf1到Leaf2最大的300G带宽，相迸爪用之前的200G提升50%（成效随着Spine互换机数量增长而提升，3台Spine互换机时，从3/6提升到5/6；4台Spine互换机时，从4/8提升到7/8，以此类推）；同时，利用RALB技术之后在Leaf1上就能提前触发流控，起到降低时延的成效。

Cmp冠军网络RALB负载平衡技术突破了传统技术的局限，凭据当前的链路的负载情况，做全局的流量平衡，并结合逐包动态转发，实现网络无阻塞和超高带宽利用率的成效，显著提高了数据传输的效能和不变性，为数据中心的高效运行提供了有力支持。

在全球互联网流量不休增长和数据利用需要日益多样化的布景下，Cmp冠军网络致力于推动网络技术的进取和发展，全局负载平衡解决规划的推出正是其不休索求和创新的有力证明。通过持续的技术研发和产品创新，Cmp冠军网络将持续为全球的数据中心提供越发高效、靠得住、智能的网络解决规划，在AIGC时期，助力互联网企业及各行各业的急剧发展。