能够在复杂流量和大规模组网场景下？无损网络ecn

2025-03-04 18:53
Admin

　　能够在复杂流量和大规模组网场景下？无损网络 ecn跟着AI大模子练习和推理需求的产生式增加，智算中央汇集的高效性与巩固性成为决意AI工业开展的重心因素。信而泰依附自决研发的，为智算中央RoCE汇集供应精准评估计划，助力企业打破算力瓶颈，开释AI滂沱动力！

　　智算中央（AIDC，Artificial Intelligence Data Center）是特意为人工智能使用供应算力支柱的高职能数据中央，是人工智能技巧与云筹算、大数据、物联网等摩登新闻技巧深度调解的产品。它基于最新的人工智能外面，采用前沿的筹算架构，为AI模子的练习、推理和使用供应壮大的算力任事、数据任事和算法任事。

　　对智算中央的RoCE汇集举行评估测试，是为了确保其不妨高效、巩固地支柱大周围AI练习工作。的确来由征求：

　　支柱散布式练习：验证汇集正在大周围散布式AI工作中的显露，优化数据传输恶果。

　　操纵聚集通讯流量来评估智算中央汇集的RoCE（RDMA over Converged Ethernet）职能，首要有以下几个来由：

　　智算中央的营业（如AI大模子练习）依赖于高度同步的聚集通讯操作（如AllReduce、Broadcast），这些操作请求低延迟和高带宽的汇集支柱。

　　：聚集通讯操作（如AllReduce）必要高含糊量和低延迟，RoCE通过RDMA机制不妨明显下降通讯延迟并升高带宽运用率。

　　RoCE汇集的职能直接影响散布式练习工作的通讯恶果，进而影响全数智算中央的加快比和恶果。

　　聚集通讯涵盖了众种通讯形式（如点对点、播送、众点通讯），不妨所有测试RoCE汇集的带宽、延迟、堵塞节制和负载平衡才能。

　　：RoCE技巧因其绽放性、互操作性和本钱效益，正在智算中央中平常使用。评估其职能有助于优化摆设，提拔全部职能。

　　操纵信而泰Renix软件平台供应的CCL Traffic Emulation诱导，测试摆设达成通过诱导摆设，天生繁杂的练习流量。针对差异AI练习数据包，评估正在非堵塞汇集、堵塞汇集各项目标。比拟汇集平常和汇集打击境况下各项组网目标，譬喻工作时辰、练习时辰、算法带宽、总线带宽、收发报文数目、时延、发抖、乱序等闭头数据。

　　通过操纵仪器仪外模仿GPU通讯，能够有用下降测试本钱，同时简化AI测试的繁杂性和庇护难度。这种设施使AI测试从守旧的搭修切实任事器和操纵价钱昂扬的GPU来测试RoCE调换机，更动为运用通用仪外仪器举行测试。这一更动不只大幅俭朴了测试本钱，还团结了验证样板，为邦产AI的兴起供应了有力支柱。

　　以下以8卡400G GPU模子练习为例，比拟Ring Allreduce模子正在非堵塞和堵塞汇集境遇下差异数据量（Data Size）的参数显露。通过实践数据比拟，能够直观地再现CCL（Collective Communication Library，聚集通讯库）正在评估汇集职能方面的首要意思。

　　如下图所示，操纵Ring Allreduce正在差异练习工作正在非堵塞汇集中再现

　　如下图所示，操纵Ring Allreduce差异练习工作正在堵塞汇集（PFC）中再现

　　如下图所示，操纵Ring Allreduce差异练习工作正在堵塞汇集（ECN+DCQCN）中再现

　　如下图所示，操纵Ring Allreduce正在差异练习工作正在非堵塞汇集中再现

　　如下图所示，操纵Ring Allreduce差异练习工作正在堵塞汇集（PFC）中再现

　　如下图所示，操纵Ring Allreduce差异练习工作正在堵塞汇集（ECN+DCQCN）中再现

　　Ø 比拟差异场景下练习时辰（无堵塞/堵塞+PFC/堵塞+ECN/DCQCN）

　　Ø 比拟差异场景下算法带宽（无堵塞/堵塞+PFC/堵塞+ECN/DCQCN）

　　Ø 比拟差异场景下总线带宽（无堵塞/堵塞+PFC/堵塞+ECN/DCQCN）

　　通过信而泰Renix软件平台的CCL Traffic Emulation性能，不妨准确评估RoCE汇集的闭头目标，为AI汇集的评估供应细致化数据支柱。比拟实行的结果可所有评估RoCE调换机的职能。该计划通过模仿切实AI事务负载，不妨正在繁杂流量和大周围组网场景下，所有测试RoCE调换机的职能显露，并精准识别组网瓶颈，提拔评估的准确性和适用性。

　　信而泰推出的X2-100GFP28、X5-400G高密度智算非堵塞汇集（ROCEv2）测试仪是一款专为高端道由器、调换机以及数据中央调换机打算的高密度测试平台。该测试平台敷裕知足运营商、汇集修设创修商和企业用户正在高速以太网和智能筹算汇集测试营业中对增加和另日开展的需求。其高密度打算使得它正在有限的空间内供应壮大的测试才能，是应对另日汇集挑拨的理念采选。