Meta Andromeda: susținerea următoarei generații de selecție a reclamelor prin co-proiectarea modelului și a sistemului

Blogul de inginerie al Meta descrie următoarea generație Andromeda, motorul companiei pentru selecția personalizată a reclamelor. Sistemul este conceput să identifice reclame relevante dintr-un grup mare înainte ca etapele ulterioare să le claseze, ceea ce face ca precizia și viteza selecției să fie importante pentru întregul proces publicitar. Meta afirmă că Andromeda obține performanțe ale modelului apropiate de cele de clasare, operând totodată la scara necesară selecției inițiale. Ideea centrală este că această capacitate rezultă din co-proiectarea modelului, a sistemului software și a hardware-ului GPU, în locul optimizării fiecărei componente separat.

În producție, Andromeda evaluează fiecare reclamă eligibilă și prezintă candidații de top la scară largă. Articolul evidențiază combinația dintre proiectarea modelului și a sistemului, împreună cu hardware-ul GPU, ca modalitate de creștere a eficienței, însă fragmentul furnizat nu include arhitecturi concrete, modele de GPU, cifre de benchmark sau date de implementare. Selecția este prezentată ca o etapă distinctă de clasare: prima restrânge grupul de reclame eligibile, iar clasarea analizează candidații mai detaliat. Obținerea unor performanțe apropiate de cele ale clasării încă din etapa inițială poate permite păstrarea mai multor opțiuni relevante fără a sacrifica debitul necesar difuzării reclamelor la scară mare.

Abordarea arată cum integrarea strânsă a modelelor machine learning cu infrastructura de servire și acceleratoarele poate influența sistemele de recomandare din producție. Pentru dezvoltatori și echipele de infrastructură, proiectul subliniază importanța optimizării întregului flux de inferență, nu doar a preciziei modelului sau a utilizării hardware-ului, analizate separat. Fragmentul nu precizează ce lansări sau detalii tehnice intenționează Meta să publice în continuare, astfel că informații suplimentare ar depinde de articole ulterioare.