Anthropic afirmă că Claude a demonstrat proprietăți de securitate în 123 de biblioteci open-source

Anthropic afirmă că modelul său Claude a produs demonstrații formale pentru 123 de biblioteci open-source și a descoperit erori care nu fuseseră detectate timp de ani de zile. Afirmația leagă analiza asistată de AI de verificarea formală, o metodă folosită pentru a stabili dacă software-ul respectă anumite proprietăți în condiții definite. Descoperirea unor erori vechi ar putea conta pentru mentenanți și utilizatori, deoarece bibliotecile utilizate pe scară largă stau adesea la baza altor programe. Totuși, sursa oferă doar o descriere succintă și nu identifică bibliotecile sau erorile.

Rezultatele raportate se referă la demonstrații formale, nu la afirmația generală că Claude ar fi efectuat un audit complet de securitate pentru fiecare bibliotecă. Sursa nu precizează ce model Claude a fost folosit, ce proprietăți au fost demonstrate, ce limbaje de programare sau instrumente de verificare au fost implicate și cum au fost verificate independent rezultatele. De asemenea, nu oferă informații despre gravitatea, numărul sau stadiul remedierii erorilor descoperite. Prin urmare, amploarea și reproductibilitatea activității nu pot fi evaluate pe baza textului furnizat.

Dacă rezultatele sunt validate și comunicate mentenanților, activitatea ar putea atrage atenția asupra proprietăților de securitate ale dependențelor open-source și ar putea ilustra un rol posibil al AI în verificarea software-ului. Articolul nu spune dacă au fost publicate remedieri, dacă demonstrațiile sau metodele sunt disponibile public ori ce acțiuni ulterioare sunt planificate. Pentru evaluarea rezultatelor și a impactului lor mai larg sunt necesare informații tehnice suplimentare.