Google suspendă programul de bug bounty open-source din cauza unui val de rapoarte false despre AI

Google a decis să suspende programul său de bug bounty pentru open-source, ca urmare a unei creșteri semnificative a numărului de contribuții, o mare parte dintre acestea fiind identificate ca rapoarte false generate de inteligența artificială. Această mișcare vine ca răspuns la volumul copleșitor de zgomot, îngreunând identificarea și remedierea vulnerabilităților reale de securitate în proiectele open-source atât pentru cercetătorii de securitate, cât și pentru echipele Google. Compania își propune să își reevalueze programul pentru a gestiona mai bine astfel de contribuții în viitor.

Programul, conceput pentru a stimula descoperirea și raportarea vulnerabilităților de securitate în software-ul open-source, a fost inundat cu contribuții care nu au merit tehnic sau sunt pur și simplu fabricații, adesea create folosind instrumente AI. Acest aflux a suprasolicitat resursele alocate verificării acestor rapoarte, deviind atenția de la probleme de securitate potențial critice. Modelele AI specifice sau tehnicile utilizate pentru generarea acestor rapoarte false nu sunt detaliate, dar impactul asupra eficienței programului este clar.

Această situație prezintă o provocare mai largă pentru industria de cybersecurity, pe măsură ce instrumentele AI devin mai accesibile și capabile să genereze informații sofisticate, deși false. Suspendarea programului de către Google semnalează necesitatea unor mecanisme de detecție îmbunătățite și, potențial, a unor noi strategii pentru gestionarea programelor de bug bounty într-o eră a conținutului generat de AI. Se așteaptă ca Google să își rafineze procesele înainte de a relansa programul, concentrându-se pe asigurarea integrității și eficienței contribuțiilor viitoare.