A fost sistemul de filigranare AI al Google-ului inversat?
Un dezvoltator de software susține că a inversat sistemul SynthID al Google DeepMind, demonstrând cum pot fi eliminate filigranele AI din imaginile generate. Dezvoltatorul și-a open-sourced munca pe GitHub, susținând că procesul a implicat 200 de imagini generate de Gemini și procesarea semnalului.
Rezumat Detaliat
Un dezvoltator de software, Aloshdenny, susține că a inversat sistemul SynthID al Google DeepMind, care este conceput pentru a filigrana imaginile generate de AI. Acest lucru permite eliminarea filigranelor din imagini sau inserarea manuală a filigranelor în alte lucrări. Munca dezvoltatorului, care este open-sourced pe GitHub, a implicat analiza a 200 de imagini generate de Gemini și aplicarea tehnicilor de procesare a semnalului.
Procesul, așa cum a fost descris de Aloshdenny, nu a necesitat rețele neuronale sau acces proprietar, evidențiind potențialele vulnerabilități ale sistemelor de filigranare AI. Abordarea dezvoltatorului a implicat analiza imaginilor pentru a identifica tipare și semnale legate de filigrane. Acest lucru le-a permis să dezvolte o metodă pentru eliminarea sau inserarea filigranelor. Constatările dezvoltatorului ridică întrebări cu privire la eficacitatea tehnicilor actuale de filigranare AI și ușurința cu care acestea pot fi eludate.
Implicațiile acestei inginerii inverse sunt semnificative pentru industria AI. Sugerează că metodele actuale de filigranare ar putea să nu fie suficient de robuste pentru a preveni utilizarea greșită a conținutului generat de AI. Acest lucru ar putea duce la o nevoie de tehnici de filigranare mai sofisticate sau metode alternative pentru verificarea autenticității imaginilor generate de AI. Incidentul subliniază, de asemenea, importanța cercetării open-source în identificarea și abordarea potențialelor defecte de securitate în sistemele AI.
⚠️ Notă: Acesta este un rezumat generat automat. Drepturile asupra conținutului aparțin sursei originale. Citește articolul complet aici
Sursa originală
Citește articolul complet aici
Articole similare
Războiul prețurilor AI: De ce factura ta de AI continuă să crească în ciuda reducerilor de costuri pentru modele
În ciuda reducerilor semnificative de prețuri pentru modele AI precum GPT-5.6 Luna de la OpenAI, echipele de inginerie raportează costuri AI crescute din cauza utilizării extinse și a cheltuielilor în creștere pentru infrastructura aferentă. Costul token-urilor devine o fracțiune mai mică din factura totală de AI, mutând accentul către runtime-uri de agenți, memorie, observabilitate și utilizarea GPU.
MiniMax Lansează Modelul Multimodal H3, Rivalizează cu Seedance, Reduce Prețul și Anunță Lansarea Open-Source
Compania chineză de AI, MiniMax, a lansat noul său model multimodal, H3, conceput pentru a concura cu modele precum Seedance. Compania a redus, de asemenea, semnificativ prețurile pentru serviciile AI și a anunțat planuri de a face modelul H3 open-source.
SkillSpector: Scannerul Open-Source NVIDIA pentru Securitatea Abilităților Agenților AI
NVIDIA a lansat SkillSpector, un instrument open-source conceput pentru a spori securitatea agenților AI prin scanarea abilităților acestora. Acest scanner ajută la identificarea potențialelor vulnerabilități și asigură că agenții AI operează în parametrii de siguranță definiți.
Acțiunile EPAM Systems au crescut cu 17,5% după o amplă inițiativă de perfecționare cu OpenAI; Este AI acum centrală în strategie?
EPAM Systems a înregistrat o creștere semnificativă de 17,5% a prețului acțiunilor, în urma unei inițiative substanțiale de perfecționare în parteneriat cu OpenAI. Acest eveniment ridică întrebări despre centralitatea tot mai mare a tehnologiilor AI în focalizarea strategică și în oferta de servicii a EPAM.