16卡4090D-48G液冷显卡在vllm跑deepseek服务器

1. 测试概述

本报告详细记录了沅宝主板搭载16块RTX4090D-48G显卡的水冷系统性能测试结果，测试版本从V1.0到V1.2，分别完成了水冷改造、CPU/GPU测试和DeepSeek模型Benchmark测试。

2. 测试环境与配置

硬件配置

1. ​GPU​：16块RTX4090D-48G（水冷改装）
2. ​CPU​：2颗Intel Xeon Gold 5418Y
3. ​内存​：8条SAMSUNG DDR5 32G 4800MT/S
4. ​主板​：YB01001512（SR02-不压接-V0.10）
5. ​电源​：2000W CRPS白金电源

软件环境

• 操作系统：Ubuntu 24.04.2 LTS
• 驱动版本：NVIDIA-SMI 570.169
• CUDA版本：12.8