Caută în știri_

4 rezultate pentru „api gateway”

• 08:09devIntroducerea modelelor virtuale în AI GatewayVercel a introdus Virtual Models pentru AI Gateway, permițând echipelor să gestioneze selecția modelelor și setările printr-un ID comun, fără modificări în codul aplicațiilor. Funcția centralizează configurări precum modelele de rezervă, Zero Data Retention și controalele de acces și este compatibilă cu tipurile de modele și API-urile acceptate.
  
• 19.10 · 08:13aiModelele open-weight ajung la 71,5% din tokenuri și 23% din cheltuielile AI GatewayÎn septembrie, modelele open-weight au procesat 71,5% din volumul de tokenuri AI Gateway și au atras aproape 23% din cheltuieli, o creștere puternică față de iunie. Raportul mai constată că cheltuielile totale pentru AI cresc rapid, companiile schimbă frecvent modelele, iar o parte importantă a utilizării modelelor chinezești trece prin furnizori din SUA.
  
• 21.09 · 21:12devExperiential: Router Gateway Open-Source pentru Managementul Modelelor AI și Controlul CosturilorExperiential este un nou router gateway open-source conceput pentru a gestiona și optimiza modelele AI, atât cele cloud, cât și cele locale. Acesta oferă un API unificat compatibil cu OpenAI pentru controlul calității, vitezei și costurilor, permițând totodată stabilirea limitelor de cheltuieli pentru agenții AI.
• 19.09 · 09:00aiModelul Jev Atinge Adoție Record pe AI GatewayModelul Jev de la TypeSafe AI a devenit cel mai rapid adoptat model din istoria AI Gateway, ajungând la de două ori mai multe echipe plătite în 24 de ore de la lansare. Acest model specializat de decizie probabilistică este conceput pentru luarea deciziilor structurate în software, oferind alegeri tipizate și scoruri direct utilizabile de cod.