Caută în știri_

2 rezultate pentru „transformer engine”

• 21:01aiNVIDIA Îmbunătățește Antrenamentul MoE pentru Modele Biologice cu Câștiguri de EficiențăNVIDIA a introdus o rețetă optimizată de antrenament MoE (Mixture of Experts) pentru modelele fundamentale biologice prin intermediul platformei sale BioNeMo. Această îmbunătățire utilizează tehnici avansate ale Transformer Engine pentru a crește semnificativ debitul, făcând antrenamentul modelelor AI complexe mai eficient.
• 15.09 · 21:01aiMotorul Transformer de la NVIDIA Accelerează Antrenamentul MoE în JAX de 10 OriMotorul Transformer de la NVIDIA a accelerat semnificativ antrenamentul modelelor Dropless Mixture-of-Experts (MoE) în cadrul framework-ului JAX. Această realizare se traduce printr-o creștere remarcabilă a performanței de 10 ori și menține o eficiență de scalare impresionantă de 97%.