NVIDIA DGX A100

Nvidia DGX A100

DGX A100 to reprezentant najnowszej generacji systemów NVIDIA DGX, który wyznacza nowy standard infrastruktury do tworzenia rozwiązań sztucznej inteligencji. Oferuje on radykalne zwiększenie wydajności dla każdego typu obciążeń.
Najnowsza architektura GPU NVIDIA „Ampere” zapewnia postęp w zakresie przepustowości obliczeniowej, przepustowości GPU i wielodostępu GPU.

NVIDIA DGX A100-640 NVIDIA DGX A100-320
Nvidia DGX A100
  • 8 GPU NVIDIA A100 – 80 GB
    z mostkami NVLink (transfer do 600 GB/s) i NVSwitch o dwukierunkowej przepustowości do 4.8 TB/s
  • 55296 rdzeni NVIDIA CUDA, łącznie
  • 3456 rdzeni NVIDIA Tensor (4 generacji), łącznie
  • 640 GB pamięci GPU, łącznie
  • Wydajność 2496 TFLOPS FP16 TC (half-precision na rdzeniach tensorowych)
  • CPU: 2x AMD Rome 7742, 2,25 / 3,4 GHz, łącznie 126 rdzeni
  • RAM: 2 TB
  • Storage OS: 1,92 TB – 2x 1,92 TB SSD M.2 NVMe w RAID1
  • Storage Data: 30 TB – 8x 3,84 TB SSD U.2 NVMe w RAID0
  • LAN klaster GPU: 8x Mellanox ConnectX-6 200 Gb/s HDR Infiniband, karta jednoportowa
  • LAN storage: Mellanox ConnectX-6 10 / 25 / 50 / 100 / 200 Gb/s Ethernet, karta dwuportowa
  • OS: Ubuntu Linux
    Wspierane są również: Red Hat Enterprise Linux
    i CentOS
  • System zawiera kompletny stos programowy dla DL (deep learning) -certyfikowany i serwisowany przez firmę NVIDIA
  • 8 GPU NVIDIA A100 – 40 GB
    z mostkami NVLink (transfer do 600 GB/s) i NVSwitch o dwukierunkowej przepustowości do 4.8 TB/s
  • 55296 rdzeni NVIDIA CUDA, łącznie
  • 3456 rdzeni NVIDIA Tensor (4 generacji), łącznie
  • 640 GB pamięci GPU, łącznie
  • Wydajność 2496 TFLOPS FP16 TC (half-precision na rdzeniach tensorowych)
  • CPU: 2x AMD Rome 7742, 2,25 / 3,4 GHz, łącznie 126 rdzeni
  • RAM: 1 TB (możliwość rozbudowy do 2 TB)
  • Storage OS: 1,92 TB – 2x 1,92 TB SSD M.2 NVMe w RAID1
  • Storage Data: 15 TB – 4x 3,84 TB SSD U.2 NVMe w RAID0 (możliwość rozbudowy do 30 TB)
  • LAN klaster GPU: 8x Mellanox ConnectX-6 200 Gb/s HDR Infiniband, karta jednoportowa
  • LAN storage: Mellanox ConnectX-6 10 / 25 / 50 / 100 / 200 Gb/s Ethernet, karta dwuportowa
  • OS: Ubuntu Linux
    Wspierane są również: Red Hat Enterprise Linux
    i CentOS
  • System zawiera kompletny stos programowy dla DL (deep learning) -certyfikowany i serwisowany przez firmę NVIDIA


Nvidia DGX A100 najbardziej uniwersalny system dla infrastruktury AI.

 

  • Najnowsza architektura GPU – NVIDIA A100 „Ampere”
    – przynosząca radykalne korzyści w zakresie trenowania AI, wnioskowania AI i wydajności HPC
  • Do 5 PFLOPs mocy obliczeniowej dla AI w jednym systemie DGX A100
  • Zwiększona przepustowość NVLink (600GB/s w NVIDIA A100 GPU):
    Każdy GPU obsługuje teraz 12 mostków NVIDIA NVLink o całkowitej przepustowości do 600GB
  • Do 10X szybszy trening i do 56X większa wydajność przy wnioskowaniu w jednym systemie DGX A100
  • MIG (Multi Instance GPU):
    możliwość podzielenia każdego GPU NVIDIA A100 na 7 niezależnych instancji i przydzielenia ich 7 użytkownikom realizującym różne zadania. Dzięki temu DGX A100 może być udostępniony znacznie większej grupie użytkowników, a wszystko to ze zwiększonym bezpieczeństwem (przy pełnej izolacji)

 



WordPress Appliance - Powered by TurnKey Linux