Spectrum NVIDIA正式颁布全新 为生成式AI提供高性能网络处置方案
随着生成式AI的爆火,大局部企业都在探求生成式AI在业务翻新中的运行。妇孺皆知,随着云计算的遍及,以及5G网络技术的运行,应用云计算失掉AI所须要的算力,曾经开局被用户接受。
为了处置云AI时代面临的网络性能应战,NVIDIA 于今天发表推出NVIDIA Spectrum-X 网络平台,该平台是一个减速网络平台,努力于提高基于以太网AI 云的性能与效率。
NVIDIASpectrum-X™ 是基于网络翻新的新成绩而构建—— 将 NVIDIA Spectrum-4以太网替换机与 NVIDIA BlueField®-3 DPU严密联合,取得了1.7 倍的全体 AI 性能和能效优化,同时可在多租户环境中提供分歧、可预测的性能。Spectrum-X还提供 NVIDIA 减速软件和软件开发套件(SDK),使开发人员能够构建软件定义的云原生AI运行。
这种端到端的性能交付,可以缩小基于transformer的大规模生成式AI模型的运转期间,助力网络工程师、AI数据迷信家和云服务商及时取得更好的结果,并更快做出理智的决策。
世界头部超大规模云服务商正在驳回NVIDIA Spectrum-X,包含上游的云翻新企业。
作为NVIDIA Spectrum-X 参考设计的蓝图和测试平台,NVIDIA正在构建一台超大规模生成式AI 超级计算机,命名为Israel-1。它将被部署在 NVIDIA 以色列数据中心,由基于 NVIDIA HGX™平台的戴尔 PowerEdge XE9680 主机,BlueField-3DPU 和Spectrum-4 替换机等打造而成。
NVIDIA 网络初级副总裁Gilad Shainer 示意:“诸如生成式 AI 等反派性技术正在推进各家企业优化数据中心性能的极限,从而取得更多竞争长处。作为新一代以太网络,NVIDIASpectrum-X 为新一代AI 上班负载扫清阻碍,将会彻底扭转整个行业。”
NVIDIA Spectrum-X 网络平台具备高度的通用性,可用于各种AI 运行。它驳回齐全规范的以太网,与现有以太网的堆栈成功互通。
该平台起步于Spectrum-4 ,这是世界首款专为AI 网络打造的 51Tb/s 以太网替换机。先进的RoCE 裁减性能可以跨 Spectrum-4 替换机、BlueField-3 DPU 和 LinkX 光纤相互协同,独特构建了一个专为AI 云优化的端到端 GbE 网络。
NVIDIA Spectrum-X 经过性能隔离增强了多租户环境,确保租户的AI 上班负载能以最佳性能继续运转。NVIDIASpectrum-X 还提供了更好的AI 性能可见性,它可以识别性能瓶颈,而且具备全智能网络验证性能。
驱动Spectrum-X 的减速软件包含Cumulus Linux、纯SONiC 和 NetQ 等性能弱小的 NVIDIA SDK,独特助力该网络平台成功极致性能。另外,Spectrum-X还包含 BlueField DPU 的外围软件——NVIDIA DOCA™ 软件框架。
NVIDIA Spectrum-X 单台替换机即可成功打破性的 256 个200Gb/s 端口的衔接,经常使用两层叶脊拓扑可以衔接 16,000 个端口,以允许 AI 云的增长和裁减,同时坚持极高的性能和极低的网络延时。
结语
此次颁布令人思索,这台专为AI 网络打造的以太网替换机能否可以开启5G/6GAI时代?让咱们刮目相待吧!