Caută în știri_

2 rezultate pentru „local inference”

• 08:09devVS Code 1.143 setează Copilot ca implicit și adaugă comparații între modele AI și inferență localăArticolul spune că VS Code 1.143 setează Copilot ca opțiune implicită și adaugă funcții experimentale pentru compararea modelelor AI și rularea locală a AI fără consum de credite. Actualizarea include și instrumente pentru gestionarea codului generat de agenți și a spațiului de stocare asociat.
  
• 29.09 · 09:06hardwareAcceleratorul AI Forlinx M.2 de 20-TOPS suportă cascada PCIe pentru inferența LLM localăForlinx a lansat un nou accelerator AI M.2 capabil de 20 TOPS, conceput pentru inferență LLM locală eficientă. Acesta dispune de cascada PCIe, permițând conectarea mai multor unități pentru performanțe sporite.