标签：NVIDIA宣布下代AI服务器：288颗GPU＋36颗CPU 800亿亿次每秒

在2024年9月10日，NVIDIA宣布了其新一代AI服务器“Vera Rubin NVL144”，该服务器专为AI训练和推理设计，性能和规模都有显著提升。每个机架配备了36颗Vera CPU和144颗Rubin GPU，同时搭载了1.4PB/s的HBM4内存带宽和高达75TB的存储空间，为处理大规模AI任务提供了强大支持。 在NVFP4精度下，Vera Rubin NVL144的算力达到了惊人的3.5 EFlops，相当于每秒350亿亿次运算，相比上一代GB300 NVL72性能提升了3.3倍。这一性能跃升将极大推动深度学习、自然语言处理等AI领域的进步。 此外，NVIDIA还推出了“Vera Rubin NVL144 CPX”版本...