Set de date pentru detectarea deepfake-urilor are ca scop să țină pasul cu AI-ul generativ
Cercetătorii de la Microsoft, Northwestern University și Witness au creat un nou set de date pentru a îmbunătăți sistemele de detectare a deepfake-urilor. Setul de date, numit Microsoft-Northwestern-Witness (MNW), are ca scop furnizarea unei game diverse de media generate de AI pentru testare mai robustă.
Rezumat Detaliat
O echipă de cercetători a dezvoltat setul de date Microsoft-Northwestern-Witness (MNW) pentru detectarea deepfake-urilor, cu scopul de a combate sofisticarea crescândă a conținutului generat de AI. Acest set de date include o gamă largă de mostre media generate de AI pentru a ajuta la construirea unor sisteme de detectare mai eficiente. Proiectul implică colaborarea între Microsoft, Northwestern University și Witness, o organizație non-profit, reflectând un efort combinat de abordare a provocărilor generate de deepfake-uri, care pot provoca daune semnificative prin fraudă de identitate, înșelătorii și crearea de imagini intime non-consensuale.
Setul de date MNW este conceput pentru a reflecta peisajul actual al generării de AI, prin încorporarea de mostre diverse de la diferiți generatori. Cercetătorii urmăresc să identifice artefacte lăsate în urmă de generatorii de AI, cum ar fi distribuțiile de zgomot și inconsecvențele. Aceste artefacte sunt cruciale pentru antrenarea modelelor AI pentru a detecta media falsă. Setul de date va fi actualizat în mod regulat pentru a ține pasul cu evoluția rapidă a AI-ului generativ și cu tehnicile utilizate pentru a evita detectarea. Setul de date va include, de asemenea, manipulări de post-procesare, cum ar fi redimensionarea, decuparea și compresia, pentru a face setul de date mai reprezentativ pentru scenariile din lumea reală.
Cercetătorii recunosc potențialul de utilizare greșită a setului de date, dar subliniază importanța abordării problemei conținutului deepfake. Obiectivul principal este de a îmbunătăți capacitatea de a evalua autenticitatea media pe măsură ce AI-ul generativ avansează. Setul de date MNW este menit să ridice standardele, să încurajeze transparența și să asigure că capacitățile de detectare țin pasul cu peisajul în evoluție al conținutului generat de AI. Setul de date va fi actualizat în fiecare primăvară și toamnă pentru a reflecta cele mai recente artefacte ale generatorului și trucurile folosite pentru a înșela sistemele de detectare.
⚠️ Notă: Acesta este un rezumat generat automat. Drepturile asupra conținutului aparțin sursei originale. Citește articolul complet aici
Sursa originală
Citește articolul complet aici
Articole similare
O singură bază de date vectorială configurată greșit a expus datele tuturor clienților
O singură neconfigurare într-o bază de date vectorială multi-tenant poate duce la expunerea severă a datelor, unde informațiile sensibile ale unui client devin accesibile altuia. Această vulnerabilitate provine din natura semantică a embedding-urilor și din instrumentele de control al accesului mai puțin mature comparativ cu bazele de date tradiționale.
Moonshot AI lansează Kimi K2.7-Code: Model Open-Source cu 1T Parametri, Pretinde Superioritate în Utilizarea Uneltelor față de Claude Opus
Moonshot AI a lansat Kimi K2.7-Code, un model open-source cu 1 trilion de parametri, care contestă benchmark-urile existente. Compania susține că acest nou model depășește Claude Opus de la Anthropic în capacitățile de utilizare a uneltelor, o zonă critică pentru execuția sarcinilor complexe.
IIT Roorkee Deschide Înscrierile pentru a 11-a Promoție a Certificatului Postuniversitar în Data Science, Machine Learning și Generative AI
Institutul Indian de Tehnologie (IIT) Roorkee a anunțat deschiderea înscrierilor pentru a 11-a promoție a programului său de Certificat Postuniversitar. Acest program se concentrează pe Data Science, Machine Learning și Generative AI, adresându-se profesioniștilor care doresc să își îmbunătățească abilitățile în aceste domenii în continuă evoluție.
IBM dorește să devină 'strat de securitate' pentru infrastructura AI open source, investind 5 miliarde de dolari
IBM și-a anunțat intenția de a se poziționa ca un strat de securitate esențial pentru infrastructura AI open source, susținută de o investiție semnificativă de 5 miliarde de dolari. Această mișcare strategică vizează abordarea preocupărilor crescânde legate de securitatea adoptării rapide a modelelor și instrumentelor AI open source.