Conducte de date enorme care alimentează sistemele AI generative sunt înrădăcinate în invazii masive de confidențialitate - Amnesty International

Amnesty International a publicat un raport care detaliază modul în care conductele de date enorme care alimentează sistemele AI generative sunt construite pe o fundație de încălcări masive ale confidențialității. Raportul se concentrează pe practicile companiilor precum OpenAI, Google și Microsoft, care colectează și utilizează cantități vaste de date personale pentru a-și antrena modelele lingvistice mari (LLM). Această colectare de date are loc adesea fără consimțământ explicit, ridicând îngrijorări etice și legale semnificative.

Raportul evidențiază aspectele tehnice ale acestor conducte de date, inclusiv metodele utilizate pentru a extrage date de pe internet, rețelele sociale și alte surse. De asemenea, examinează tipurile de date colectate, cum ar fi conversații personale, date de localizare și istoricul de navigare. Analiza dezvăluie că aceste practici nu numai că încalcă confidențialitatea, ci contribuie și la prejudecăți și inexactități în modelele AI. Raportul solicită reglementări mai stricte și o mai mare transparență în industria AI pentru a proteja drepturile individuale.

Implicațiile acestor constatări sunt de anvergură, afectând viitorul dezvoltării și implementării AI. Raportul îndeamnă factorii de decizie politică să abordeze riscurile de confidențialitate asociate cu AI și să stabilească linii directoare clare pentru colectarea și utilizarea datelor. Impactul asupra industriei ar putea fi semnificativ, ducând potențial la o mai mare atenție acordată companiilor AI și la o trecere la practici mai conștiente de confidențialitate. Aceasta ar putea implica modificări ale metodelor de colectare a datelor, ale proceselor de antrenare a modelelor și ale dezvoltării de noi tehnologii de protecție a confidențialității.