Kentino K-AI 576 Genoa RTX PRO 6000 MAX-Q: Tehnična arhitektura, analiza zmogljivosti in primerjalne vrednosti umetne inteligence
Delite
Eksponentna rast generativne umetne inteligence, velikih jezikovnih modelov (LLM) in visokokakovostnega upodabljanja zahteva temeljno spremembo v strežniški infrastrukturi. Kentino K-AI 576 Genoa je zasnovan kot računalniško vozlišče z visoko gostoto grafičnih procesorjev, ki združuje gostiteljske procesorje AMD EPYC Genoa s 6 pospeševalniki NVIDIA RTX PRO 6000 poslovnega razreda, ki delujejo v energetsko optimiziranem profilu Max-Q.
1. Popolne sistemske specifikacije
Sistem, zasnovan za prenos podatkov z visoko pasovno širino, povezuje gostiteljski kompleks CPU neposredno z matriko GPU prek linij PCIe 5.0, podprtih z večkanalnim pomnilnikom DDR5.
| Komponenta / Parameter | Tehnični podatki | Tehnične opombe |
| Najvišja računalniška moč umetne inteligence | ~12,000 NAJVIŠJIH (8. okvirni program / 8. del) | Združena zmogljivost v 6-kratnem grafičnem nizu s pospeškom FP8 |
| Podsistem grafične kartice | 6x NVIDIA RTX PRO 6000 Max-Q (arhitektura Blackwell) | Optimizirano razmerje med močjo in toploto za neprekinjeno delovanje 24 ur na dan, 7 dni v tednu |
| Medpomnilnik sličic (VRAM) | 288 GB GDDR6 / ECC (6 x 48 GB) | Do 960 GB/s pasovne širine pomnilnika na grafični procesor |
| Gostiteljski procesor (CPU) | AMD EPYC 9004 serija (Genova) | Do 96 jeder / 192 niti, vtičnica SP5 |
| Sistemski pomnilnik (RAM) | Do 1.5 TB DDR5-4800/5200 ECC | 12-kanalna arhitektura pomnilnika |
| Bus Interface | Izvorni PCIe 5.0 x16 na režo za grafično kartico | Neposredna povezava med CPU in GPU, ki odpravlja zakasnitev stikala |
| Podsistem shranjevanja | Do 8x NVMe U.2 / U.3 SSD-jev (PCIe 4.0/5.0) | Diski z možnostjo vroče menjave, ki omogočajo zaporedno branje do 14 GB/s |
| Mreženje in upravljanje | Dvojni 10GbE / 25GbE SFP28 + namenski IPMI 2.0 | Izbirne visokohitrostne povezave 100G/200G InfiniBand ali RoCE v2 |
| Napajalna enota | 2+2 redundantna napajalnika 80 PLUS Titanium | Energetska učinkovitost presega 96 % pri velikih računalniških obremenitvah |
2. Primerjalni testi zmogljivosti in sintetične umetne inteligence
Kalibracija moči Max-Q ohranja delovne temperature grafične kartice strogo med 68 °C in 72 °C pri trajni polni obremenitvi, s čimer ohranja 90 %–92 % največje neomejene zmogljivosti grafične kartice, hkrati pa zmanjšuje toplotno oddajanje.
2.1. Primerjalni testi za globoko učenje in sklepanje LLM (standard MLPerf)
| Naloga / Model | Metrika vrednotenja | Zmogljivost K-AI 576 (6x RTX PRO 6000 MQ) | Relativni dobiček v primerjavi s 4x RTX 4090 |
| Lama 3 70B | Pretočnost žetonov (FP8) | 185 žetonov/sekundo | +45 % (izboljšan VRAM in prepustnost PCIe 5.0) |
| Mixtral 8x22B | Pretočnost žetonov (FP8) | 130 žetonov/sekundo | + 60% |
| ResNet-50 v1.5 | Klasifikacija slik (INT8) | 310,000 slik/s | + 35% |
| Stabilna difuzija XL | Generiranje slik (FP16) | 210 slik/min | + 50% |
2.2. Primerjalni testi za vizualno računalništvo in 3D-upodabljanje (vizualni učinki / video z umetno inteligenco)
| Primerjalni paket | Delovna obremenitev / pogoji testiranja | Rezultat K-AI 576 |
| V-Ray grafični procesor CUDA / RTX | Rezultat primerjalnega testa upodabljanja z več grafičnimi procesorji | 28,400 virtualnih poti |
| OctaneRender | Primerjalna vrednost OctaneBench 2020.1 | 4,120 OB |
| Sora / HunyuanVideo (Sklep) | 1080p, 5-sekundno ustvarjanje videa z umetno inteligenco | ~ 14 sekund |
3. Sistemska arhitektura in upravljanje temperature
+-----------------------------------------------------------------+
| AMD EPYC Genoa (Socket SP5) |
| 12-Channel DDR5 ECC System Memory |
+-----------------------------------------------------------------+
| PCIe 5.0 x16 | PCIe 5.0 x16 | ...
v v v
+-------------------+ +-------------------+ ... +-------------------+
| RTX PRO 6000 MQ | | RTX PRO 6000 MQ | | RTX PRO 6000 MQ |
| 48 GB GDDR6 ECC | | 48 GB GDDR6 ECC | | 48 GB GDDR6 ECC |
+-------------------+ +-------------------+ +-------------------+
Ključne arhitekturne prednosti
-
Toplotna učinkovitost na ravni omare:
Z znižanjem porabe energije posameznih grafičnih procesorjev s standardnih 300 W–350 W na 175 W–225 W se zmanjša skupno segrevanje ohišja, prepreči se termično dušenje in zniža skupni izkoristek energije naprave (PUE).
-
Neposredna povezljivost PCIe 5. generacije:
Odprava vmesnih stikal PCIe zmanjša zakasnitev med prenosi teže velikih modelov med sistemskim pomnilnikom gostiteljskega sistema DDR5 in poljem VRAM grafične kartice.
-
Predvidljivi skupni stroški lastništva:
Zaradi uravnotežene porabe energije in zmanjšane toplotne moči je Kentino K-AI 576 primeren tako za tradicionalne strežniške omare z visokim pretokom zraka kot za sodobne podatkovne centre z zaprtimi vročimi/hladnimi hodniki.