戴尔近日发布了搭载NVIDIA GB200 NVL72 AI服务器的全新PowerEdge XE9712,旨在提供比H100 AI GPU快30倍的实时LLM性能。
该系统集成了72个B200 AI GPU,通过NVLink技术连接,实现了闪电般的连接速度。戴尔强调,其液冷系统可以最大化数据中心的电力利用率,并快速部署AI集群。
此外,该平台支持高达36个NVIDIA Grace CPU与72个NVIDIA Blackwell GPU的连接,形成一个GPU域,实现高达30倍于H100 AI GPU的实时万亿参数LLM推理速度。基于XE9680的成功,XE9712在单机架内实现了72个GPU的协同工作,并支持大规模部署,包括机架间的全面网络连接,由戴尔的机架级部署服务、供应链和物流支持。