Am Construit o Aplicație de Grădinărit Offline Folosind un Model AI Autotunat

Un dezvoltator a construit Baghbaan, un planificator de grădină de bucătărie conceput special pentru Karachi, care funcționează complet offline folosind un model AI autotunat. Această inițiativă, parte a provocării Hacktoberfest Open-Source AI, își propune să ofere sfaturi practice și localizate de grădinărit, în special pentru plantarea legumelor precum palak și methi în sezonul octombrie-noiembrie, adesea neglijat de aplicațiile globale de grădinărit care vizează zone climatice diferite.

Aplicația dispune de două interfețe frontend (vanilla JS și React + TypeScript) și un server Python fără dependențe. Componenta AI centrală este un model Qwen2.5-7B-Instruct, autotunat folosind QLoRA pe un GPU gratuit Colab T4, cu 100 de exemple de întrebări-răspuns despre grădinărit în limba romană urdu. Modelul este servit local prin llama.cpp după conversia în format GGUF, asigurând că nu este necesară nicio conexiune la internet sau chei API cloud, rezultând costuri de rulare zero. Un set de date JSON curat, conținând informații specifice despre 16 culturi și 12 luni pentru clima din Karachi, servește drept sursă principală de adevăr, modelul AI acționând ca o interfață conversațională.

Acest proiect subliniază beneficiile practice ale AI open-source și ale implementării modelelor locale, permițând accesul la informații cruciale chiar și în zone cu conectivitate slabă la internet și fără costuri pentru utilizator. Prioritizând setul de date curat ca sursă de adevăr și implementând optimizări pentru a atenua halucinațiile AI, dezvoltatorul asigură sfaturi de grădinărit fiabile și relevante contextual, demonstrând că modelele mai mici, bine reglate, cu date de înaltă calitate pot fi foarte eficiente. Scopul final al aplicației este de a încuraja utilizatorii să petreacă mai puțin timp pe ecrane și mai mult timp grădinărind activ.