
Următoarea ta interogare AI se poate deplasa acolo unde este energie
Nvidia lansează un proiect pilot pentru a construi micro centre de date lângă stațiile electrice pentru a optimiza utilizarea energiei pentru AI. Aceste centre de date vor schimba calculele în funcție de disponibilitatea energiei, abordând cerințele energetice în creștere ale AI.
Rezumat Detaliat
Nvidia, împreună cu parteneri precum InfraPartners și EPRI, dezvoltă o nouă abordare a operațiunilor centrelor de date prin construirea de micro centre de date lângă stațiile electrice. Această inițiativă vizează îmbunătățirea flexibilității centrelor de date în gestionarea consumului de energie electrică, în special ca răspuns la cerințele energetice în creștere ale AI. Proiectul implică construirea a aproximativ 25 de centre de date mici, fiecare cu o capacitate de la 5 la 20 de megawați, în cadrul a cinci utilități din Statele Unite, permițând schimbarea dinamică a sarcinilor de calcul în funcție de disponibilitatea energiei și capacitatea rețelei.
Din punct de vedere tehnic, proiectul valorifică infrastructura existentă a stațiilor electrice, care au adesea capacitate de energie neutilizată. Prin amplasarea strategică a centrelor de date lângă aceste stații electrice, Nvidia își propune să acceseze această capacitate de rezervă și să reducă necesitatea unei noi infrastructuri de rețea. Designul încorporează, de asemenea, linii de fibră optică pentru internet de mare viteză, eficientizând și mai mult eficiența operațională a acestor micro centre de date. Flexibilitatea în utilizarea energiei este crucială, mai ales că centrele de date sunt proiectate să-și crească semnificativ consumul de energie electrică în următorii ani.
Implicațiile acestui proiect sunt semnificative pentru industria AI și pentru sectorul energetic mai larg. Acesta oferă o soluție potențială la provocările ridicate de cerințele energetice în creștere ale AI, permițând centrelor de date să se conecteze mai rapid la rețea și să reducă necesitatea construirii de generare de energie la fața locului. Această abordare ar putea duce, de asemenea, la o utilizare mai eficientă a infrastructurii de rețea existente și ar contribui la sustenabilitatea operațiunilor AI. Succesul proiectului ar putea stabili un precedent pentru modul în care sunt proiectate și operate centrele de date în viitor, având un impact asupra practicilor industriale și a modelelor de consum de energie.
⚠️ Notă: Acesta este un rezumat generat automat. Drepturile asupra conținutului aparțin sursei originale. Citește articolul complet aici
Sursa originală
Citește articolul complet aici
Articole similare

DXC va integra Claude de la Anthropic în sistemele pentru industrii reglementate
DXC Technology colaborează cu Anthropic pentru a integra asistentul AI Claude în soluțiile sale cloud pentru companii. Această integrare vizează aducerea capabilităților AI avansate în sectoare critice precum sectorul bancar și cel aviatic, îmbunătățind eficiența operațională și serviciile pentru clienți. Colaborarea se concentrează pe oferirea unei implementări AI sigure și fiabile pentru industriile cu cerințe de reglementare stricte.

Anthropic Răspunde Directivei Guvernului SUA de Suspendare a Accesului la Fable 5 și Mythos 5
Anthropic a emis o declarație referitoare la o directivă a guvernului SUA de suspendare a accesului la modelele sale Fable 5 și Mythos 5. Compania cooperează cu directiva, subliniind în același timp angajamentul său față de siguranță și dezvoltarea responsabilă a AI.

Guvernul SUA dispune Anthropic să retragă modelele Fable 5 și Mythos 5
Anthropic a fost obligat de guvernul SUA să dezactiveze noile sale modele AI, Fable 5 și Mythos 5, la doar trei zile după lansare. Această acțiune survine în urma unei dispoziții guvernamentale federale, ale cărei detalii specifice nu sunt prezentate, dar care se referă la reglementările de export.

DiffusionGemma: Noul LLM Open de la Google Atinge 1.000 Tokeni/sec și Schimbă Economia Inferenței
Google DeepMind a lansat DiffusionGemma, un LLM open-weight care utilizează difuzia discretă pentru generarea de text, atingând peste 1.000 de tokeni/sec pe un singur GPU H100. Această nouă arhitectură procesează tokenii în blocuri, oferind îmbunătățiri semnificative de viteză față de modelele autoregresive tradiționale, în detrimentul unei precizii ușor reduse.