Sute de aplicații AI aparent obișnuite ascund funcții pentru deepfake-uri abuzive

WIRED a descoperit aproximativ 400 de aplicații și site-uri asociate cu dezvoltatori vorbitori de chineză, prezentate ca instrumente AI obișnuite. Potrivit articolului, aceste produse includ și funcții ascunse pentru crearea de imagini și videoclipuri AI violente. Descoperirea arată că servicii aparent uzuale pot include funcții care facilitează producerea de conținut sintetic abuziv.

Sursa descrie un grup de aplicații și site-uri, nu un singur produs sau model, și nu oferă specificații tehnice, nume de platforme ori detalii despre accesarea funcțiilor ascunse. Articolul menționează asocierea dezvoltatorilor cu servicii în limba chineză, fără să precizeze infrastructura, modelele folosite sau măsurile de protecție. Capacitățile de generare semnalate includ atât imagini, cât și videoclipuri, iar materialul violent este menționat în mod explicit.

Descoperirile ridică întrebări despre identificarea și limitarea funcțiilor dăunătoare integrate în servicii care pot părea inofensive pentru utilizatori. Fragmentul articolului nu menționează măsuri de aplicare a regulilor, reacții din partea dezvoltatorilor sau modificări tehnice planificate, astfel că aceste aspecte rămân neprecizate.