NVIDIA a anunțat noul său GPU H200 Hopper, care este echipat cu cea mai rapidă memorie HBM3e din lume de la Micron. Pe lângă noile platforme de inteligență artificială, NVIDIA a anunțat, de asemenea, o victorie majoră în domeniul supercomputerelor, cu ajutorul supercipurilor Grace Hopper, care acum alimentează supercomputerul Jupiter Exaflop.
NVIDIA continuă să ia avânt în domeniul inteligenței artificiale cu GPU Hopper actualizate, supercipuri Grace Hopper și victorii la supercomputere
GPU-urile H100 de la NVIDIA sunt cele mai solicitate cipuri de inteligență artificială din industrie până în prezent, dar echipa verde vrea să ofere și mai multă performanță clienților săi. Intră, HGX H200, cea mai recentă platformă HPC & computing pentru AI care este alimentată de GPU-urile H200 Tensor Core. Aceste GPU-uri dispun de cele mai recente optimizări Hopper atât la nivel hardware cât și software & oferind în același timp cea mai rapidă soluție de memorie din lume de până acum.
GPU-urile NVIDIA H200 sunt echipate cu soluția HBM3e de la Micron, cu capacități de memorie de până la 141 GB și o lățime de bandă de până la 4,8 TB/s, ceea ce reprezintă o lățime de bandă de 2,4 ori mai mare și o capacitate dublă față de NVIDIA A100. Această nouă soluție de memorie permite NVIDIA să dubleze aproape de două ori performanța de inferență AI față de GPU-urile sale H100 în aplicații precum Llama 2 (70 de miliarde de parametri LLM). Progresele recente din suita TensorRT-LLM au dus, de asemenea, la creșteri uriașe de performanță într-un număr mare de aplicații AI.
În ceea ce privește soluțiile, GPU-urile NVIDIA H200 vor fi disponibile într-o gamă largă de servere HGX H200 cu configurații GPU cu 4 și 8 căi. O configurație cu 8 căi de GPU H200 într-un sistem HGX va oferi până la 32 PetaFLOPs de performanță de calcul FP8 și capacități de memorie de 1,1 TB.
NVIDIA H200 GPU: Supralimentată cu memorie HBM3e, disponibilă în al doilea trimestru al anului 2024
GPU-urile vor fi, de asemenea, compatibile cu sistemele HGX H100 existente, facilitând astfel actualizarea platformelor de către clienți. Partenerii NVIDIA, cum ar fi ASUS, ASRock Rack, Dell, Eviden, GIGABYTE, Hewlett Packard Enterprise, Ingrasys, Lenovo, QCT, Wiwynn, Supermicro și Wistron, vor oferi soluții actualizate atunci când GPU-urile H200 vor fi disponibile în al doilea trimestru al anului 2024.
Superchipurile NVIDIA Grace Hopper alimentează supercomputerul Jupiter de 1 exaflop
Pe lângă anunțul făcut cu privire la GPU H200, NVIDIA a anunțat, de asemenea, o victorie importantă a unui supercomputer alimentat de supercipurile sale Grace Hopper (GH200). Supercomputerul este cunoscut sub numele de Jupiter și va fi amplasat la instalația Forschungszentrum Jülich din Germania, ca parte a EuroHPC Joint Undertaking și contractat de Eviden și ParTec. Supercomputerul va fi utilizat pentru știința materialelor, cercetarea climatică, descoperirea de medicamente și multe altele. Acesta este, de asemenea, al doilea supercomputer anunțat de NVIDIA în noiembrie, precedentul fiind Isambard-AI, care oferă până la 21 de Exaflops de performanță AI.
În ceea ce privește configurația, supercomputerul Jupiter se bazează pe BullSequana XH3000 de la Eviden, care utilizează o arhitectură complet răcită cu lichid. Acesta se mândrește cu un total de 24.000 de supercipuri NVIDIA GH200 Grace Hopper Superchips care sunt interconectate cu ajutorul Quantum-2 Infiniband al companiei. Având în vedere că fiecare procesor Grace conține 288 de nuclee Neoverse, avem de-a face cu aproape 7 milioane de nuclee ARM numai pe partea de procesor pentru Jupiter (6.912.000 mai exact).
Parametrii de performanță includ 90 de exaflopi de antrenament AI și 1 exaflop de calcul de înaltă performanță. Se preconizează că supercomputerul va fi instalat în 2024. În general, acestea sunt niște actualizări majore din partea NVIDIA, care continuă să fie lider în lumea IA cu tehnologiile sale hardware și software puternice.