Startup vrea să ruleze inferența AI din spațiu

Orbital Inc., un startup din Los Angeles, dezvoltă centre de date spațiale pentru a aborda cerințele energetice în creștere ale inferenței AI, valorificând energia solară pe orbita joasă a Pământului. Compania, susținută de Andreessen Horowitz (A16z), intenționează să implementeze o constelație de sateliți mici, fiecare echipat cu rack-uri de servere GPU și panouri de răcire radiativă, pentru a oferi calcul pentru sarcini de lucru precum chatbot-uri și agenți. Prima lansare de testare, programată pentru 2027, are ca scop validarea operațiunilor GPU și rularea sarcinilor de lucru de inferență comercială folosind o rachetă SpaceX Falcon 9.

Designul Orbital se concentrează pe o rețea distribuită de sateliți mai mici, optimizați pentru sarcinile de lucru de inferență, care sunt mai puțin intensive din punct de vedere al calculului decât antrenarea modelelor AI mari. Fiecare satelit, limitat la 100 de kilowați, va procesa cererile utilizatorilor direcționate de la stațiile terestre, utilizând interconexiuni optice pentru transmiterea datelor. Compania intenționează să ofere acces direct API și oferte pentru întreprinderi laboratoarelor majore de AI, cum ar fi OpenAI și Anthropic. Cu toate acestea, se confruntă cu provocări precum expunerea la radiații, gestionarea termică și dificultatea întreținerii în spațiu.

Această inițiativă ar putea avea un impact semnificativ asupra industriei AI, oferind o infrastructură alternativă, potențial mai durabilă, pentru inferența AI. Succesul abordării Orbital depinde de validarea tehnologiei sale prin lansarea de testare viitoare și de capacitatea de a depăși obstacolele tehnice ale funcționării în spațiu. Dacă are succes, Orbital ar putea oferi o soluție scalabilă și rentabilă pentru rularea sarcinilor de lucru AI, atrăgând potențial companii majore de AI și remodelând peisajul infrastructurii AI.