Claude introduce o versiune beta publică pentru firele de mesaje, reducând latența agenților

Anthropic anunță că funcția message threads este disponibilă acum în beta publică pentru Claude și urmărește să reducă latența în fluxurile de lucru cu agenți. Funcția abordează munca repetitivă de retrimitere a contextului, care poate adăuga întârzieri atunci când agenții fac mai multe solicitări pe parcursul unor interacțiuni lungi. Potrivit companiei, schimbarea reduce cu aproximativ 35% timpul median până la primul token pentru contexte cuprinse între 500.000 și 1 milion de tokeni. Îmbunătățirea raportată este relevantă mai ales pentru aplicațiile care folosesc ferestre de context foarte mari și apelează repetat modelul.

Articolul identifică funcția drept message threads și menționează un rezultat de performanță pentru două intervale de dimensiuni ale contextului, dar nu descrie API-ul, implementarea sau opțiunile de configurare. Indicatorul menționat este timpul median până la primul token, cunoscut ca TTFT, nu timpul total de generare sau debitul general. Reducerea raportată de 35% se aplică contextelor între 500.000 și 1 milion de tokeni; nu sunt oferite rezultate pentru contexte mai mici, metodologia testării sau valorile de referință. Anunțul nu precizează nici modelele Claude sau framework-urile pentru agenți compatibile cu versiunea beta.

Pentru dezvoltatorii de agenți, evitarea transferului repetat al contextului ar putea reduce latența în interacțiuni lungi, desfășurate în mai mulți pași, însă articolul oferă puține informații pentru evaluarea efectelor mai ample asupra performanței. Disponibilitatea în beta publică le permite utilizatorilor să testeze funcția, dar calendarul lansării generale și detaliile tehnice suplimentare nu sunt precizate.