可以支撑17K~32K的大规模GPU卡集群2023年11月16日9月13日至14日,2023绽放数据中央大会正在北京市慎重揭幕。锐捷搜集正在搜集分论坛上发外了AIGC智算中央搜集团体计划,为AIGC大模子的兴盛供应了全方位的搜集解法。
跟着AIGC本事赋能工业继续升级,营业对大模子的需求也日益兴隆,更众的磨练参数目以及更高的算力成为大措辞模子的迭代标的。为了支柱众元化的行业运用,数据中央必要更大范畴的集群来承载大措辞模子的漫衍式磨练。大措辞模子运算效能与搜集转发带宽存正在密不行分的接洽,搜集带宽接入才力与搜集带宽行使率是影响GPU行使率的合节目标。
基于以上需乞降痛点,锐捷搜集处理计划司理刘洋正在2023绽放数据中央大会(ODCC 2023)上,通过中心演讲《面向AIGC的智算中央搜集修树忖量》,叙述了AIGC大模子的兴盛趋向及合节诉求,正式发外了AIGC智算中央搜集团体计划。计划采用联合轨范化的以太搜集本事,完全提出两种AIGC智算中央搜集处理计划。
高功能以太搜集处理计划通过三级组网的方法能够餍足3.2万个400G端口接入需求,支柱32K块GPU卡的集群范畴。正在搜集功能层面,安排施行时合心RDMA无损搜集中PFC、ECN等水线的创立,实行负载平衡形式及算法优化擢升搜集的带宽行使率(周密本事可参考著作《处理数据中央搜集堵塞,锐捷RALB负载平衡本事助力高效数据传输》)。运维优化阶段,该计划夸大对搜集合节目标的及时监控,运用智能运维平台依据现网情况进作为态调治以完毕更佳的搜集功能,该处理计划已得到市集的平常承认。
搜集宽带接入层面,锐捷搜集RG-S6980-64QC数据中央互换机维持64*400G通讯端口,能够同时运用正在TOR、Leaf、Spine三个层级,该兴办一经批量交付了良众互联网的客户。
AI-Fabric智算中央搜集处理计划是锐捷搜集针对AIGC营业场景发外的另一套处理计划。采用NCP+NCF为根底模块横向扩展的三级搜集架构,能够支柱17K~32K的大范畴GPU卡集群。基于高功能芯片本事,通过将数据流切分成等长的Cell并负载到一切链途,擢升搜集带宽行使率;基于VOQ+Credit的端到端流控机制完毕与营业无合的无损自闭环搜集,助力营业算力擢升。(周密本事可参考著作《锐捷搜集高功能搜集计划,为AIGC打通“任督二脉”》)
正在环球互联网流量一直增进和数据运用需求日益众样化的布景下,锐捷搜集悉力于饱吹搜集本事的进取和兴盛,AIGC智算中央搜集团体计划的推出恰是其一直摸索和立异的有力证实。通过继续的本事研发和产物立异,锐捷搜集将陆续为环球的数据中央供应尤其高效、牢靠、智能的搜集处理计划,正在AIGC期间,助力互联网企业及各行各业的急迅兴盛。
9月13日至14日,2023绽放数据中央大会正在北京市慎重揭幕。锐捷搜集正在搜集分论坛上发外了AIGC智算中央搜集团体计划,为AIGC大模子的兴盛供应了全方位的搜集解法。
跟着AIGC本事赋能工业继续升级,营业对大模子的需求也日益兴隆,更众的磨练参数目以及更高的算力成为大措辞模子的迭代标的。为了支柱众元化的行业运用,数据中央必要更大范畴的集群来承载大措辞模子的漫衍式磨练。大措辞模子运算效能与搜集转发带宽存正在密不行分的接洽,搜集带宽接入才力与搜集带宽行使率是影响GPU行使率的合节目标。
基于以上需乞降痛点,锐捷搜集处理计划司理刘洋正在2023绽放数据中央大会(ODCC 2023)上,通过中心演讲《面向AIGC的智算中央搜集修树忖量》,叙述了AIGC大模子的兴盛趋向及合节诉求,正式发外了AIGC智算中央搜集团体计划。计划采用联合轨范化的以太搜集本事,完全提出两种AIGC智算中央搜集处理计划。
高功能以太搜集处理计划通过三级组网的方法能够餍足3.2万个400G端口接入需求,支柱32K块GPU卡的集群范畴。正在搜集功能层面,安排施行时合心RDMA无损搜集中PFC、ECN等水线的创立,实行负载平衡形式及算法优化擢升搜集的带宽行使率(周密本事可参考著作《处理数据中央搜集堵塞,锐捷RALB负载平衡本事助力高效数据传输》)。运维优化阶段,该计划夸大对搜集合节目标的及时监控,运用智能运维平台依据现网情况进作为态调治以完毕更佳的搜集功能,该处理计划已得到市集的平常承认。
搜集宽带接入层面,锐捷搜集RG-S6980-64QC数据中央互换机维持64*400G通讯端口,能够同时运用正在TOR、Leaf、Spine三个层级,该兴办一经批量交付了良众互联网的客户。
AI-Fabric智算中央搜集处理计划是锐捷搜集针对AIGC营业场景发外的另一套处理计划。采用NCP+NCF为根底模块横向扩展的三级搜集架构,能够支柱17K~32K的大范畴GPU卡集群。基于高功能芯片本事,通过将数据流切分成等长的Cell并负载到一切链途,擢升搜集带宽行使率;基于VOQ+Credit的端到端流控机制完毕与营业无合的无损自闭环搜集,助力营业算力擢升。(周密本事可参考著作《锐捷搜集高功能搜集计划,为AIGC打通“任督二脉”》)
正在环球互联网流量一直增进和数据运用需求日益众样化的布景下,锐捷搜集悉力于饱吹搜集本事的进取和兴盛,AIGC智算中央搜集团体计划的推出恰是其一直摸索和立异的有力证实。通过继续的本事研发和产物立异,锐捷搜集将陆续为环球的数据中央供应尤其高效、牢靠、智能的搜集处理计划,正在AIGC期间,助力互联网企业及各行各业的急迅兴盛。
转载请注明出处:MT4平台下载
本文标题网址:可以支撑17K~32K的大规模GPU卡集群2023年11月16日