NVIDIA 推出800Gb
生成式AI的爆火,在给企业带来翻新运行的同时,也对数据中心网络提出了更高的需要。为了处置AI时代带来的网络应战,NVIDIA 在往年的GTC上正式颁布了专为大规模 AI 量身订制的全新网络替换机 - X800 系列。
据了解,NVIDIA Quantum-X800 InfiniBand 网络和 NVIDIA Spectrum™-X800 以太网络是环球首批高达800Gb/s 端到端吞吐量的网络平台,将计算和 AI 上班负载的网络性能优化到了一个新的水平,与其配套软件强强联手可进一步减速各种数据中心中的 AI、云、数据处置和高性能计算(HPC)运行,包括基于最新的 NVIDIA Blackwell 架构产品的数据中心。
NVIDIA 网络初级副总裁 Gilad Shainer 示意:“NVIDIA 网络平台是 AI 超级计算基础设备成功大规模可裁减的外围。基于 NVIDIA X800 替换机的端到端网络平台,使新型 AI 基础设备轻松运转万亿参数级生成式 AI 业务。”
为AI运行建立极致性能新标杆
Quantum-X800 平台建立了 AI 公用基础设备极致性能的新标杆,该平台蕴含了 NVIDIA Quantum Q3 替换机和 NVIDIA ConnectXⓇ-8 SuperNIC,二者互连到达了业界上游的端到端800Gb/s 吞吐量,替换带宽容量较上一代产品提高了 5 倍,网络计算才干更是仰仗NVIDIA 的 SHARP™ 技术(SHARPv4)提高了9 倍,到达了14.4Tflops。
Spectrum-X800 平台为 AI 云和企业级基础设备带来优化的网络性能。借助800Gb/s 的 Spectrum SN5600 替换机和 NVIDIA BlueField-3 SuperNIC,Spectrum-X800 平台为多租户生成式 AI 云和大型企业级用户提供各种至关关键的先进配置。
Spectrum-X800 经过优化网络性能,放慢 AI 上班负载的处置、剖析和口头速度,进而缩短 AI 处置打算的开发、部署和上市期间。Spectrum-X800 专为多租户环境打造,成功了每个租户的 AI 上班负载的性能隔离,使业务性能能够继续坚持在最佳形态,优化客户满意度和服务品质。
面向万亿参数级 AI 模型性能优化的全套软件打算
NVIDIA 提供面向万亿参数级 AI 模型性能优化的网络减速通讯库、软件开发套件和治理软件等全套软件打算。
其中的 NVIDIA 汇合通讯库(NCCL)可将 GPU 的并行计算义务裁减到 Quantum-X800 网络,应用其基于SHARPv4 的弱小网络计算才干和对FP8 的允许,为大模型训练和生成式 AI 提供超强的性能。
NVIDIA 的全栈软件打算带来了先进的可编程性,使数据中心网络变得愈加灵敏、牢靠和灵敏,既提高了全体运营效率,又满足了现代运行和服务的需求。
携手业界生态协作同伴独特推进AI网络开展
Quantum InfiniBand 和 Spectrum-X 以太网的早期用户包括微软 Azure 、Oracle Cloud Infrastructure 和Coreweave 等。
环球多家头部基础设备供应商和系统厂商将在明年开局提供基于Quantum-X800 和Spectrum-X800 的网络平台,包括 Aivres、DDN、戴尔科技、Eviden、Hitachi Vantara、慧与、联想、超微和 VAST>