NVIDIA Vera Rubin NVL72 Obține Performanță de Top în MLPerf Inference v6.1

Sistemul Vera Rubin NVL72 de la NVIDIA a făcut o intrare semnificativă, obținând cele mai mari scoruri în benchmark-ul MLPerf Inference v6.1, în special pentru sarcinile de inferență AI. Această realizare este crucială, deoarece afectează direct economia AI, unde performanța mai ridicată a sistemului se traduce în generare crescută de token-uri și venituri, iar scalarea eficientă asigură că throughput-ul crește proporțional cu hardware-ul adăugat, reducând astfel cerințele de resurse pentru deservirea utilizatorilor la scară.

Sistemul NVL72 este construit pe arhitectura Grace Hopper Superchip de la NVIDIA, integrând GH200 Grace Hopper Superchip. Este proiectat pentru scalarea eficientă a infrastructurii și optimizarea continuă a software-ului, dispunând de 72 de GH200 Superchips. Această configurație este optimizată pentru sarcini AI la scară largă, inclusiv procesarea limbajului natural și sistemele de recomandare, având ca scop maximizarea valorii din investițiile în infrastructură prin generarea unui output mai mare de la același hardware.

Această performanță de vârf în MLPerf Inference v6.1 poziționează Vera Rubin NVL72 ca o soluție puternică pentru organizațiile care implementează modele AI la scară largă. Rezultatele indică un potențial puternic pentru eficiență îmbunătățită și cost-eficiență în inferența AI, stabilind un nou standard pentru industrie și deschizând calea pentru viitoare progrese în infrastructura AI.