快科技11月20日消息,SuperComputer 2024超算大会上,NVIDIA公布了一系列新产品、新技术,其中最亮眼的当属"GB200 NVL4"计算平台,也是其SuperChip超级芯片家族的一员。
这是一套单服务器解决方案,在一块不大的板子上,集成了四颗Blackwell GB200 GPU芯片、两颗Grace CPU芯片,彼此通过NVLink总线高速互联。
四颗Blackwell共拥有768GB HBM3内存,合计带宽32TB/s,两颗Grace GPU则有960GB LPDDR5X内存。
二者合计,就是恐怖的1.7TB!
该方案适合HPC、AI混合负载应用,号称对比上代GH200 NVL4,训练和图里性能高1.8倍,模拟性能高2.2倍。
当然代价就是极高的功耗,总计不可思议的5400W——一个小时5.4度电。
如果不需要 这么彪悍的方案,NVIDIA也早就提供了两颗Blackwell GB200 GPU芯片、一颗Grace GPU芯片的版本,规模减半,当然功耗也要2700W。