企業(yè)特殊行業(yè)經(jīng)營資質(zhì)信息公示
點(diǎn)擊圖片查看原圖NVIDIA英偉達(dá)H800人工智能服務(wù)器為各類數(shù)據(jù)中心提供出色的性能、可擴(kuò)展性和安全性。
加速計算的數(shù)量級飛躍
通過 NVIDIA英偉達(dá)H800人工智能服務(wù)器 GPU，在每個工作負(fù)載中實(shí)現(xiàn)出色性能、可擴(kuò)展性和安全性。使用 NVIDIA® NVlink® Switch 系統(tǒng)，可連接多達(dá) 256 個 H800 來加速百億億級 (Exascale) 工作負(fù)載，另外可通過專用的 Transformer 引擎來處理萬億參數(shù)語言模型。與上一代產(chǎn)品相比，H800 的綜合技術(shù)創(chuàng)新可以將大型語言模型的速度提高 30 倍，從而提供業(yè)界**的對話式 AI。
準(zhǔn)備好迎接企業(yè) AI 了嗎？
企業(yè)采用 AI 現(xiàn)已成為主流，企業(yè)組織需要端到端的 AI 就緒型基礎(chǔ)架構(gòu)，加快自身邁向新時代的步伐。
適用于主流服務(wù)器的 H800 隨附五年期 NVIDIA AI Enterprise 軟件套件訂閱（包括企業(yè)支持），能夠以強(qiáng)大的性能簡化 AI 的采用。這可確保組織能夠訪問構(gòu)建 H800 加速的 AI 工作流所需的 AI 框架和工具，例如 AI 聊天機(jī)器人、推薦引擎和視覺 AI 等。
NVIDIA英偉達(dá)H800人工智能服務(wù)器GPU算力租賃配置：
|
項(xiàng)目 |
標(biāo)準(zhǔn)配置 |
|
框架 |
8U 機(jī)架式服務(wù)器 |
|
處理器 |
2顆第4代/第5代至強(qiáng)系列最高 64 核/3.9GHz/320MB緩存 |
|
內(nèi)存 |
最大容量 4TB |
|
GPU |
NVIDIA HGX H800 GPU模組 |
|
系統(tǒng)硬盤 |
M.2 NVMe PCIe接口 2TB SSD |
|
數(shù)據(jù)硬盤 |
2*10TB 企業(yè)級 SATA 硬盤 RAID 10 陣列配置 |
|
InfiniBand 網(wǎng)絡(luò) |
ConnectX-7 400Gb/s |
|
Ethernet 網(wǎng)卡 |
OCP 網(wǎng)卡/雙電口/10G |
|
PICE 插槽 |
9 個 PCIe 5.0 擴(kuò)展插槽 |
|
電源 |
6*3000W，2*2700W，AC220 輸入 |
|
風(fēng)扇 |
10 個 54V 風(fēng)扇模組 |
|
操作系統(tǒng) |
Windows Server/RedHat Enterprise Linux/SUSE Linux Enterprise Server/CentOS/Ubuntu/Vmware EXSi |
|
工作溫度 |
+5°~+35° |
|
其他接口 |
機(jī)箱后部：1 個 RJ45 管理接口，2 個 USB 3.0，1 個 VGA 機(jī)箱前部：2 個 USB 3.0，1 個 VGA |
|
整機(jī)凈重 |
120KG（以實(shí)際配置為準(zhǔn)） |
NVIDIA H800 TENSOR CORE GPU 規(guī)格 （SXM4 和 PCIE 外形規(guī)格）
|
外形規(guī)格 |
H800 SXM4 |
H800 PCIE |
|
FP64 |
1 teraFLOPS |
0.8 teraFLOPS |
|
FP64 Tensor Core |
1 teraFLOPS |
0.8 teraFLOPS |
|
FP32 |
67 teraFLOPS |
51 teraFLOPS |
|
TF32 Tensor Core |
989 teraFLOPS* |
756teraFLOPS* |
|
BFLOAT16 Tensor Core |
1979 teraFLOPS* |
1,513 teraFLOPS* |
|
FP16 Tensor Core |
1979 teraFLOPS* |
1,513 teraFLOPS* |
|
FP8 Tensor Core |
3958 teraFLOPS* |
3026 teraFLOPS* |
|
INT8 Tensor Core |
3958 TOPS* |
3026 TOPS* |
|
GPU 顯存 |
80GB |
80GB |
|
GPU 顯存帶寬 |
3.35TB/s |
2TB/s |
|
解碼器 |
7 NVDEC/7 JPEG |
7 NVDEC/7 JPEG |
|
最大熱設(shè)計功率 (TDP) |
高達(dá) 700 瓦（可配置） |
350 瓦（可配置） |
|
多實(shí)例 GPU |
最多 7 個 MIG @每個 10GB |
|
|
外形規(guī)格 |
SXM |
PCIe雙插槽風(fēng)冷式 |
|
互聯(lián)技術(shù) |
NVlink：600GB/s PCIe:128GB/s |
NVlink：600GB/s PCIe:128GB/s |
安全地加速從企業(yè)級到百億億次級規(guī)模的工作負(fù)載
實(shí)時深度學(xué)習(xí)推理
超大模型的 AI 推理性能提升高達(dá) 30 倍
HPC 應(yīng)用的性能提升高達(dá) 7 倍
百億億次級高性能計算
加速數(shù)據(jù)分析
為企業(yè)提高資源利用率
內(nèi)置機(jī)密計算
為大規(guī)模 AI 和高性能計算提供出色的性能
