随着NVIDIA下一代Rubin Ultra AI GPU和新型HBM4内存的推出,预计未来的AI服务器将消耗超过1000 kW的电力。目前,AI服务器的功率密度在130 kW到250 kW之间,但未来的Blackwell Ultra和Rubin AI服务器将需要250-900 kW的功率,预计到2026-2027年,每个机架将配备高达576个GPU。

NVIDIA计划在2028-2029+年推出配备Rubin Ultra AI GPU的新AI服务器,其功率密度将达到1000 kW或更高。据数据中心公司Vertiv的分析,随着机架密度的提高,预计新的机架密度将在不同的工作负载应用和市场细分领域平均增加。

回顾过去,仅4年前,2020年AI服务器的平均机架密度约为8.2 kW,但随着对AI需求的不断增长,这一数字已经飙升至132 kW,这是由NVIDIA新推出的GB200 NVL72 AI机柜所实现的,它是历史上功耗最高的服务器。