Am Testat Nivelul Gratuit Cloudflare Workers AI și Am Descoperit 24 de LLM-uri Puternice pe Care Le Puteți Folosi Astăzi

Un experiment recent a explorat nivelul gratuit Cloudflare Workers AI, relevând că dezvoltatorii pot accesa o gamă largă de modele lingvistice mari (LLM) open-source printr-un singur punct final API, adesea fără costuri. Autorul a căutat inițial modele specifice, dar a descoperit că multe altele, inclusiv asistenți puternici de codare și modele de raționament, erau disponibile pe planul gratuit, contrar presupunerilor comune despre necesitatea abonamentelor plătite sau a hardware-ului dedicat pentru dezvoltarea AI.

Investigația tehnică a implicat crearea unui script pentru a enumera modelele disponibile prin API-ul de catalog Cloudflare și a efectua inferențe de test, diferențiind între accesibilitatea planului gratuit și restricțiile planului plătit. Descoperirile cheie au inclus funcționarea cu succes a modelelor precum gpt-oss-120b de la OpenAI, diverse versiuni Qwen și Llama, și modelele de raționament de la DeepSeek pe nivelul gratuit, în timp ce unele variante mai noi sau specifice au fost restricționate. Nivelul gratuit Cloudflare funcționează pe un buget zilnic de neuroni și o limită de cereri pe minut, diferind de cotele specifice modelelor impuse frecvent de alți furnizori precum Groq.

Această descoperire are implicații semnificative pentru dezvoltatori, sugerând că construirea aplicațiilor bazate pe AI, a asistenților de codare sau a instrumentelor interne nu necesită o investiție inițială substanțială. Oferta gratuită Cloudflare oferă acces la LLM-uri puternice, potențial reducând bariera de intrare pentru dezvoltarea AI și permițând startup-urilor și dezvoltatorilor individuali să creeze MVP-uri și instrumente fără a avea nevoie de GPU-uri dedicate sau endpoint-uri de inferență cloud costisitoare.