Set de date pentru detectarea deepfake-urilor are ca scop să țină pasul cu AI-ul generativ

O echipă de cercetători a dezvoltat setul de date Microsoft-Northwestern-Witness (MNW) pentru detectarea deepfake-urilor, cu scopul de a combate sofisticarea crescândă a conținutului generat de AI. Acest set de date include o gamă largă de mostre media generate de AI pentru a ajuta la construirea unor sisteme de detectare mai eficiente. Proiectul implică colaborarea între Microsoft, Northwestern University și Witness, o organizație non-profit, reflectând un efort combinat de abordare a provocărilor generate de deepfake-uri, care pot provoca daune semnificative prin fraudă de identitate, înșelătorii și crearea de imagini intime non-consensuale.

Setul de date MNW este conceput pentru a reflecta peisajul actual al generării de AI, prin încorporarea de mostre diverse de la diferiți generatori. Cercetătorii urmăresc să identifice artefacte lăsate în urmă de generatorii de AI, cum ar fi distribuțiile de zgomot și inconsecvențele. Aceste artefacte sunt cruciale pentru antrenarea modelelor AI pentru a detecta media falsă. Setul de date va fi actualizat în mod regulat pentru a ține pasul cu evoluția rapidă a AI-ului generativ și cu tehnicile utilizate pentru a evita detectarea. Setul de date va include, de asemenea, manipulări de post-procesare, cum ar fi redimensionarea, decuparea și compresia, pentru a face setul de date mai reprezentativ pentru scenariile din lumea reală.

Cercetătorii recunosc potențialul de utilizare greșită a setului de date, dar subliniază importanța abordării problemei conținutului deepfake. Obiectivul principal este de a îmbunătăți capacitatea de a evalua autenticitatea media pe măsură ce AI-ul generativ avansează. Setul de date MNW este menit să ridice standardele, să încurajeze transparența și să asigure că capacitățile de detectare țin pasul cu peisajul în evoluție al conținutului generat de AI. Setul de date va fi actualizat în fiecare primăvară și toamnă pentru a reflecta cele mai recente artefacte ale generatorului și trucurile folosite pentru a înșela sistemele de detectare.