Caută în știri_

2 rezultate pentru „llm inference”

• 09:10devllm-d 1.0 consolidează inferența AI open-source pentru operarea în producțieArticolul anunță llm-d 1.0 și îl prezintă drept un proiect care consolidează inferența AI open-source pentru operarea continuă în producție. Textul furnizat nu include specificații tehnice, detalii despre lansare sau o descriere a modificărilor.
  
• 29.09 · 09:06hardwareAcceleratorul AI Forlinx M.2 de 20-TOPS suportă cascada PCIe pentru inferența LLM localăForlinx a lansat un nou accelerator AI M.2 capabil de 20 TOPS, conceput pentru inferență LLM locală eficientă. Acesta dispune de cascada PCIe, permițând conectarea mai multor unități pentru performanțe sporite.