Revizori umani expuși la solicitări sensibile Copilot și cereri de imagini AI

Utilizarea de către GitHub Copilot a angajaților externi pentru revizuirea solicitărilor utilizatorilor și a datelor încărcate a intrat sub lupa criticii, în urma dezvăluirilor că acești revizori sunt expuși la conținut sensibil și explicit. Documente interne obținute de 404 Media indică faptul că angajații externi au sarcina de a revizui o gamă largă de intrări ale utilizatorilor, inclusiv fragmente de cod și imagini potențial private. Această practică ridică preocupări semnificative legate de confidențialitate pentru utilizatorii care s-ar putea să nu fie conștienți de amploarea supravegherii umane asupra datelor lor.

Problema centrală constă în fluxul de procesare a datelor pentru modelele AI precum Copilot, care implică adesea feedback uman pentru îmbunătățire și siguranță. Se raportează că angajații externi revizuiesc solicitări și imagini, fiind în mod special expuși la cererile utilizatorilor pentru imagini generate de AI cu conținut sexual explicit. Această expunere nu este doar o problemă de confidențialitate, ci ridică și întrebări despre implicațiile etice ale muncii atribuite acestor revizori și despre potențialul impact psihologic.

Această situație subliniază o dezbatere mai largă privind utilizarea revizorilor umani în dezvoltarea AI și necesitatea unei transparențe sporite cu privire la practicile de gestionare a datelor. Pe măsură ce instrumentele AI devin mai integrate în fluxurile de lucru profesionale, asigurarea confidențialității utilizatorilor și tratamentul etic al personalului de revizuire vor fi esențiale. Viitoarele iterații ale unor astfel de servicii ar putea necesita tehnici de anonimizare mai robuste sau metode alternative de revizuire a datelor pentru a atenua aceste riscuri.