Calcul à haute performance, formation et inférence en IA/apprentissage profond, grands modèles de langage (LLM) et IA générative,
Caractéristiques principales
Interconnexion NVLink® Chip-2-Chip (C2C) à large bande passante et à faible latence entre le CPU et le GPU à 900 Go/s ;
Jusqu'à 576 Go de mémoire cohérente par nœud, dont 480 Go de LPDDR5X et 96 Go de HBM3 pour les applications LLM ;
2 emplacements PCIe 5.0 x16 supportant NVIDIA BlueField®-3 ou ConnectX®-7 ;
7 ventilateurs robustes remplaçables à chaud avec contrôle optimal de la vitesse des ventilateurs ;
Ce système prend en charge deux disques E1.S directement à partir du processeur seulement.. ;
Facteur de forme
Boîtier : 440 x 44 x 940mm (17.33" x 1.75" x 37")
Boîtier : 1219 x 241 x 711mm (48" x 9.5" x 28")
Nombre maximal de GPU : Jusqu'à 1 GPU intégré
GPU pris en charge : NVIDIA : H100 Tensor Core GPU sur GH200 Grace Hopper™ Superchip (refroidi par liquide)
Interconnexion CPU-GPU : NVLink®-C2C
Nombre d'emplacements de mémoire système : Mémoire embarquée
Mémoire maximale : Jusqu'à 480 Go ECC LPDDR5X
Mémoire GPU supplémentaire : Jusqu'à 96 Go ECC HBM3
Configuration des baies de disque Configuration par défaut : Total 8 baies
8 baies de disques NVMe E1.S hot-swap en façade
M.2 : 2 emplacements M.2 NVMe (clé M)
Emplacements d'extension Défaut
2 emplacements PCIe 5.0 x16 FHFL
Périphériques embarqués Système sur puce
Entrée / Sortie LAN : 1 RJ45 1 GbE Port(s) LAN dédié(s) à la BMC
Vidéo : 1 port(s) mini-DP
Ventilateurs de refroidissement du système : 9 ventilateurs amovibles de 4 cm très résistants
Refroidissement liquide : Plaque froide D2C (Direct to Chip) (en option)
Alimentation : 2 alimentations redondantes de 2000W de niveau Titanium (96%)
Système BIOS Type de BIOS : AMI 64MB SPI Flash EEPROM
Surveillance de l'état de santé du PC CPU : Surveillance des cœurs du processeur, des tensions du chipset, de la mémoire
FAN : Ventilateurs avec surveillance du tachymètre
Moniteur d'état pour le contrôle de la vitesse
Connecteurs de ventilateurs à modulation de largeur d'impulsion (PWM)
Température : Surveillance de l'environnement de l'unité centrale et du châssis
---