ExaAILabs公司宣布部署了其Exacluster,这是业界首个基于Nvidia H200 GPU的AI和高性能计算集群之一。

该集群旨在构建一个能够比谷歌更好地理解用户并返回比谷歌更优搜索结果的搜索引擎。

Exacluster由18个基于Nvidia H200的8路服务器组成,每个服务器提供144个H200 GPU,每个GPU配备20TB的HBM3E内存(每个GPU 141GB HBM3E),总计算性能达到569,958 TOPS(约570 PetaTOPS)。

集群基于192个96核处理器(共3,456个核心),配备36TB DDR5内存和270TB NVMe固态存储。这台超级计算机消耗100kW的电力,每个机架只安装两台机器,以确保所有服务器都能得到足够的冷却。

Exacluster的成本约为500万美元,这意味着每台机器277,777美元,与单个8路H200底板的价格相当,而不是整个服务器的成本。