Cafeluța IT – 26.01.2024 – Grok tot mai atacat pentru imaginile generate

Procurorul general al Californiei, Rob Bonta, investighează Grok de la xAI, în urma rapoartelor conform cărora o parte semnificativă din imaginile generate sunt problematice. Ancheta se concentrează pe potențiala generare de deepfake-uri sexuale care implică copii, ridicând preocupări etice și legale serioase. Această investigație subliniază atenția tot mai mare acordată instrumentelor de generare a imaginilor AI și potențialul lor de utilizare abuzivă.

Investigația asupra Grok provine din preocupările legate de conținutul generat de modelul AI, în special crearea de imagini dăunătoare și ilegale. Biroul procurorului general examinează măsurile de siguranță pe care xAI le are pentru a preveni producerea și distribuirea unui astfel de conținut. Aceasta include evaluarea datelor de antrenament ale modelului, a filtrelor de conținut și a proceselor de moderare pentru a determina dacă acestea sunt adecvate pentru a proteja împotriva abuzurilor.

Implicațiile acestei investigații sunt de amploare, putând afecta dezvoltarea și implementarea tehnologiilor de generare a imaginilor AI. Subliniază necesitatea unor măsuri de siguranță robuste și a unor linii directoare etice în domeniul AI. Rezultatul investigației ar putea crea un precedent pentru modul în care companiile AI sunt trase la răspundere pentru conținutul generat de modelele lor, influențând reglementările viitoare și practicile din industrie.