NVIDIA H100和H800 Tensor Core GPU
為各類數(shù)據(jù)中心提供出色的性能、可擴(kuò)展性和安全性。
加速計算的數(shù)量級飛躍
通過 NVIDIA H100和H800 Tensor Core GPU,在每個工作負(fù)載中實現(xiàn)出色性能、可擴(kuò)展性和安全性。使用 NVIDIA® NVlink® Switch 系統(tǒng),可連接多達(dá) 256 個 H100 來加速百億億級 (Exascale) 工作負(fù)載,另外可通過專用的 Transformer 引擎來處理萬億參數(shù)語言模型。與上一代產(chǎn)品相比,H100 的綜合技術(shù)創(chuàng)新可以將大型語言模型的速度提高 30 倍,從而提供業(yè)界**的對話式 AI。
NVIDIA英偉達(dá)H100人工智能服務(wù)器GPU算力租賃配置參數(shù):
項目 |
標(biāo)準(zhǔn)配置 |
框架 |
8U 機架式服務(wù)器 |
處理器 |
2 顆至強 Platinum 8468 48 核/3.8GHz 主頻/105MB 緩存 |
內(nèi)存 |
DDR5 4800MHz ECC 內(nèi)存容量 1TB |
GPU |
NVIDIA HGX H100 GPU 模組 |
系統(tǒng)硬盤 |
M.2 NVMe PCIe 接口 2TB SSD |
數(shù)據(jù)硬盤 |
2*10TB 企業(yè)級 SATA 硬盤 RAID 10 陣列配置 |
InfiniBand 網(wǎng)絡(luò) |
200G/雙端口/QSFP56 |
Ethernet 網(wǎng)卡 |
OCP 網(wǎng)卡/雙電口/10G |
PICE 插槽 |
9 個 PCIe 5.0 擴(kuò)展插槽 |
電源 |
6*3000W,2*2700W,AC220 輸入 |
風(fēng)扇 |
10 個 54V 風(fēng)扇組 |
操作系統(tǒng) |
Windows Server/RedHat Enterprise Linux/SUSE Linux Enterprise Server/CentOS/Ubuntu/Vmware EXSi |
工作溫度 |
+5°~+35° |
其他接口 |
機箱后部:1 個 RJ45 管理接口,2 個 USB 3.0,1 個 VGA 機箱前部:2 個 USB 3.0,1 個 VGA |
整機凈重 |
120KG(以實際配置為準(zhǔn)) |
NVIDIA英偉達(dá)H800人工智能服務(wù)器GPU算力租賃配置:
項目 |
標(biāo)準(zhǔn)配置 |
框架 |
8U 機架式服務(wù)器 |
處理器 |
2顆第4代/第5代至強系列* 64 核/3.9GHz/320MB緩存 |
內(nèi)存 |
*容量 4TB |
GPU |
NVIDIA HGX H800 GPU模組 |
系統(tǒng)硬盤 |
M.2 NVMe PCIe接口 2TB SSD |
數(shù)據(jù)硬盤 |
2*10TB 企業(yè)級 SATA 硬盤 RAID 10 陣列配置 |
InfiniBand 網(wǎng)絡(luò) |
ConnectX-7 400Gb/s |
Ethernet 網(wǎng)卡 |
OCP 網(wǎng)卡/雙電口/10G |
PICE 插槽 |
9 個 PCIe 5.0 擴(kuò)展插槽 |
電源 |
6*3000W,2*2700W,AC220 輸入 |
風(fēng)扇 |
10 個 54V 風(fēng)扇模組 |
操作系統(tǒng) |
Windows Server/RedHat Enterprise Linux/SUSE Linux Enterprise Server/CentOS/Ubuntu/Vmware EXSi |
工作溫度 |
+5°~+35° |
其他接口 |
機箱后部:1 個 RJ45 管理接口,2 個 USB 3.0,1 個 VGA 機箱前部:2 個 USB 3.0,1 個 VGA |
整機凈重 |
120KG(以實際配置為準(zhǔn)) |