A fost sistemul de filigranare AI al Google-ului inversat?

Un dezvoltator de software, Aloshdenny, susține că a inversat sistemul SynthID al Google DeepMind, care este conceput pentru a filigrana imaginile generate de AI. Acest lucru permite eliminarea filigranelor din imagini sau inserarea manuală a filigranelor în alte lucrări. Munca dezvoltatorului, care este open-sourced pe GitHub, a implicat analiza a 200 de imagini generate de Gemini și aplicarea tehnicilor de procesare a semnalului.

Procesul, așa cum a fost descris de Aloshdenny, nu a necesitat rețele neuronale sau acces proprietar, evidențiind potențialele vulnerabilități ale sistemelor de filigranare AI. Abordarea dezvoltatorului a implicat analiza imaginilor pentru a identifica tipare și semnale legate de filigrane. Acest lucru le-a permis să dezvolte o metodă pentru eliminarea sau inserarea filigranelor. Constatările dezvoltatorului ridică întrebări cu privire la eficacitatea tehnicilor actuale de filigranare AI și ușurința cu care acestea pot fi eludate.

Implicațiile acestei inginerii inverse sunt semnificative pentru industria AI. Sugerează că metodele actuale de filigranare ar putea să nu fie suficient de robuste pentru a preveni utilizarea greșită a conținutului generat de AI. Acest lucru ar putea duce la o nevoie de tehnici de filigranare mai sofisticate sau metode alternative pentru verificarea autenticității imaginilor generate de AI. Incidentul subliniază, de asemenea, importanța cercetării open-source în identificarea și abordarea potențialelor defecte de securitate în sistemele AI.