AMD adaugă comutarea dinamică LoRA în Ryzen AI Software 1.9

AMD a anunțat că Ryzen AI Software 1.9 acceptă comutarea dinamică LoRA în timpul inferenței pentru anumite modele. Actualizarea urmărește să reducă duplicarea pe NPU atunci când sunt utilizate modele cu adaptoare LoRA. Acest lucru contează deoarece permite schimbarea adaptoarelor utilizate de sarcinile acceptate fără a păstra aceleași date duplicate pe accelerator. Informațiile disponibile nu precizează modelele compatibile și nici nu oferă măsurători de performanță.

LoRA, sau Low-Rank Adaptation, este o tehnică de adaptare a unui model prin seturi mai mici de parametri, în locul duplicării și reantrenării întregului model. Potrivit AMD, funcția software nouă schimbă adaptorul LoRA folosit în timpul inferenței și reduce duplicarea pe NPU. Anunțul se referă în mod explicit la anumite modele, deci nu confirmă compatibilitatea cu toate modelele sau dispozitivele Ryzen AI. Nu sunt oferite detalii despre configurare, formatele de adaptoare acceptate, interfețele software sau cantitatea de memorie economisită.

Actualizarea adaugă o funcționalitate software pentru rularea modelelor adaptate pe platforma Ryzen AI de la AMD, însă articolul nu include benchmarkuri sau informații mai ample despre implementare. Impactul practic va depinde de modelele acceptate și de performanța funcției în aplicații reale. Detalii suplimentare despre compatibilitate și economiile de resurse măsurate ar clarifica amploarea acesteia.