Simplificarea cache-ului Runtime pe Vercel

Vercel reunește serviciul Data Cache cu Runtime Cache pentru a oferi un singur produs de caching destinat datelor utilizate prin framework-uri și API-uri. Schimbarea aduce API-urile de caching din Next.js și API-ul direct Runtime Cache sub același serviciu, iar aplicațiile care folosesc deja `fetch` sau `unstable_cache` nu necesită modificări de cod. Runtime Cache permite reutilizarea valorilor obținute sau calculate între cereri, fără ca dezvoltatorii să opereze un serviciu separat de caching. Consolidarea contează deoarece dezvoltatorii vor avea un set comun de alocări de stocare și instrumente de utilizare, indiferent dacă framework-ul accesează serviciul direct sau prin propriul API de caching.

Serviciul folosește un API scris în Go, susținut de grupuri Redis în fiecare regiune Vercel, și gestionează peste 440 de milioane de citiri și transferă mai mult de 18 TB de date pe oră. Fiecare regiune are propriul cache, astfel încât o citire din cache necesită o singură călătorie dus-întors către serviciul din regiunea în care rulează aplicația; la o ratare, aplicația sau framework-ul obține ori calculează valoarea și o scrie în acea regiune. Intrările stochează etichete și momentele scrierii, iar citirile verifică marcajele temporale regionale ale etichetelor pentru a determina dacă o intrare a fost invalidată; o singură etichetă comună poate fi invalidată printr-un singur marcaj temporal, fără ștergerea individuală a tuturor intrărilor asociate. În cazul încetinirii unui segment al registrului de etichete, întrerupătoarele de circuit permit citirilor să folosească temporar marcaje temporale păstrate în memorie, ceea ce poate face ca datele recent invalidate să fie considerate proaspete pentru scurt timp; Vercel spune că funcția a fost activată în toate regiunile în august și că, în perioadele de trafic maxim din cea mai mare regiune, latența p99 a citirilor a scăzut la aproximativ o cincime din nivelul anterior, la un trafic comparabil.

Vercel a mărit bugetele de stocare pentru proiectele Pro în iunie și pentru cele Enterprise în octombrie; alocările Pro sunt acum de opt ori mai mari decât vechiul fond Data Cache partajat la nivel de echipă, iar proiectele Enterprise primesc de zece ori mai mult spațiu decât înainte. Compania a adăugat în vizualizarea Runtime Cache din Observability marcaje de implementare, cauze de revalidare și utilizarea scrierilor și afirmă că proiectele Enterprise care eliminau frecvent intrări au înregistrat o reducere aproximativă la jumătate a ratei de ratare în decurs de o zi de la creșterea stocării. Unificarea oferă dezvoltatorilor și agenților de programare un set comun de instrumente pentru caching, în timp ce aplicațiile și framework-urile continuă să decidă ce date sunt stocate și să gestioneze cazurile de ratare.