Calcul à haute performance, formation et inférence en IA/apprentissage profond, grands modèles de langage (LLM) et IA générative,
Caractéristiques principales
Superchip NVIDIA Grace Hopper™ (CPU Grace et GPU H100) ;
Interconnexion NVLink® Chip-2-Chip (C2C) à large bande passante et faible latence entre le CPU et le GPU à 900 Go/s ;
Jusqu'à 576 Go de mémoire cohérente par nœud, dont 480 Go de LPDDR5X et 96 Go de HBM3 pour les applications LLM ;
9 ventilateurs robustes remplaçables à chaud avec contrôle optimal de la vitesse des ventilateurs ;
Ce système supporte deux disques E1.S directement à partir du processeur seulement.. ;
Facteur de forme
Boîtier : 440 x 44 x 940 mm (17,33" x 1,75" x 37")
Boîtier : 1219 x 241 x 711mm (48" x 9.5" x 28")
Nombre maximal de GPU : Jusqu'à 1 GPU embarqué
Interconnexion CPU-GPU : NVLink®-C2C
Nombre d'emplacements de mémoire système : Mémoire embarquée
Mémoire maximale : Jusqu'à 480 Go ECC LPDDR5X
Mémoire GPU supplémentaire : Jusqu'à 96 Go ECC HBM3
Configuration des baies de disque Configuration par défaut : Total 8 baies
8 baies de disques NVMe E1.S hot-swap en façade
M.2 : 2 emplacements M.2 NVMe (clé M)
Emplacements d'extension Défaut
2 emplacements PCIe 5.0 x16 FHFL
Périphériques embarqués Système sur puce
Entrée / Sortie LAN : 1 RJ45 1 GbE Port(s) LAN dédié(s) à la BMC
Vidéo : 1 port(s) mini-DP
TPM : 1 TPM embarquée/port 80
Ventilateurs de refroidissement du système : 9 ventilateurs amovibles de 4 cm à usage intensif
Alimentation 2x 2000W Blocs d'alimentation redondants de niveau Titanium (96%)
Système BIOS Type de BIOS : AMI 64MB SPI Flash EEPROM
Surveillance de la santé du PC CPU : Surveillance des cœurs du processeur, des tensions du chipset, de la mémoire
FAN : Ventilateurs avec surveillance du tachymètre
Moniteur d'état pour le contrôle de la vitesse
Connecteurs de ventilateurs à modulation de largeur d'impulsion (PWM)
Température : Surveillance de l'environnement de l'unité centrale et du châssis
Contrôle thermique pour les connecteurs de ventilateurs
---