Caută în știri
5 rezultate pentru „inference engine”
- 08:18aiDeepSeek publică open-source motorul de inferență din spatele API-ului său, menționând Huawei la egalitate cu NvidiaDeepSeek a publicat open-source motorul de inferență pe care îl folosește pentru a-și servi modelele în producție. Articolul menționează și Huawei alături de Nvidia, dar nu oferă alte detalii tehnice.
- 05.10 · 21:00aiIterate.ai lansează motorul de inferență Lifeboat pentru a crește sesiunile agenților AICompania de AI pentru întreprinderi Iterate Studio Inc. a lansat Lifeboat, un nou motor de inferență pentru modele lingvistice mari, cu calcul confidențial integrat. Acest motor permite, conform datelor, de două până la șase ori mai multe sesiuni concurente de agenți AI per GPU, abordând o provocare cheie legată de memorie pentru agenții AI.
- 03.10 · 09:01aiDescoperită Vulnerabilitate Critică Zero-Day într-un Motor de Inferență AI MajorA fost descoperită o vulnerabilitate critică zero-day într-un motor de inferență AI utilizat pe scară largă, permițând atacatorilor să execute cod de la distanță și să compromită serverele enterprise. Defectul, găsit în subsistemul de gestionare a memoriei, subliniază nevoia urgentă de securitate sporită în infrastructura AI.
- 02.10 · 09:18hardwareMotorul de Inferență AI Magnitude Suportă Acum CPU-uri Apple Silicon, NVIDIA și AMDMagnitude, un motor de inferență pentru agenți AI, și-a anunțat compatibilitatea cu procesoarele Apple Silicon, NVIDIA și AMD. Această extindere permite motorului să optimizeze automat hardware-ul pentru accelerarea modelelor deschise, dublându-le potențial viteza.
- 29.09 · 09:03roboticsDe 10.7x Mai Rapid: Motorul Open-Source de Inferență Edge Permite Robotilor să Ruleze Modele Mari Fără LatențăA fost dezvoltat un nou motor open-source de inferență edge-side, atingând viteze de până la 10.7 ori mai mari decât soluțiile existente. Acest progres permite rularea modelelor AI complexe direct pe corpul roboților, eliminând latența și permițând operarea în timp real.
