OpenAI Dezvăluie Cipul Jalapeño, Proiectat cu Asistența propriilor LLM-uri

OpenAI a introdus oficial Jalapeño, primul său cip accelerator AI, conceput pentru a îmbunătăți performanța modelelor sale AI. Acest nou cip oferă până la 13.4 petaflops de calcul pe 4 biți și utilizează 232 gigabytes de memorie avansată, atingând o rată de transfer de date de 15.4 terabytes pe secundă. Benchmark-urile indică faptul că Jalapeño poate reduce latența end-to-end de până la 3.6 ori comparativ cu Nvidia GB300, consumând în același timp mai puțină energie, deși câștigurile în lumea reală vor fi confirmate la implementarea pe scară largă.

Cel mai remarcabil aspect al dezvoltării Jalapeño este rolul semnificativ jucat de propriile modele lingvistice mari (LLM) ale OpenAI în procesul său de proiectare. Această abordare asistată de LLM a permis cipului să treacă de la conceptul arhitectural inițial la siliciu funcțional în mai puțin de 20 de luni, designul final ajungând la fabricație (tapeout) la doar nouă luni după finalizarea codului RTL inițial. Acest calendar rapid, realizat de o echipă mică, cu o medie de sub 100 de persoane, subliniază potențialul integrării AI în fluxurile de lucru de proiectare hardware, permițând inginerilor să exploreze mai multe căi de design și să opereze cu viteză sporită.

Experții sugerează că astfel de termene accelerate ar putea deveni norma pe măsură ce LLM-urile devin mai sofisticate și integrate în instrumentele de proiectare a cipurilor. Strategia OpenAI a implicat valorificarea LLM-urilor pentru sarcini care par 'software', utilizând instrumente precum Accelerated Hardware Synthesis (XLS) pentru a traduce designurile de nivel înalt în limbaje de descriere hardware precum Verilog. Aceasta marchează un pas important în evoluția proiectării cipurilor, deschizând potențial o eră a inovației mai rapide și a hardware-ului AI mai puternic.