TPU-urile Google pentru AI rulează acum în centrele de date Meta

TPU-urile (Tensor Processing Units) Google rulează acum sarcini AI în producție în centrele de date Meta. Implementarea este posibilă prin motoare open-source care permit executarea nativă a modelelor PyTorch pe cipurile Google. Acest lucru contează deoarece arată că un operator important de infrastructură AI folosește o platformă de accelerare asociată unui furnizor cloud concurent, în loc să se limiteze la opțiunile hardware existente. Articolul descrie o utilizare operațională, nu doar un test sau un plan pentru viitor.

Detaliul tehnic menționat este că motoarele open-source conectează modelele PyTorch la hardware-ul TPU, fără ca acestea să trebuiască să ruleze pe o altă arhitectură de accelerare. TPU-urile sunt cipuri proiectate de Google pentru sarcini AI, iar PyTorch este un framework de machine learning utilizat pe scară largă. Articolul nu precizează generația TPU, numele motoarelor, dimensiunea implementării, rezultatele de performanță sau serviciile și modelele Meta care folosesc cipurile. De asemenea, nu oferă detalii despre conversia modelelor, scalarea software-ului ori comparațiile cu GPU-urile și alte acceleratoare.

Implementarea sugerează că portabilitatea software poate face hardware-ul specializat pentru AI mai util și în afara cloud-ului companiei care îl proiectează. Pentru Meta, accesul la o altă opțiune de accelerare ar putea extinde alegerile de infrastructură, iar Google obține un exemplu de utilizare a TPU-urilor în producție la o organizație externă. Articolul nu menționează pașii următori sau dacă implementarea va fi extinsă.