OpenAI adaugă filigranare invizibilă textului în ChatGPT și Codex pentru utilizatorii din UE

OpenAI implementează un filigran invizibil, lizibil de mașini, numit textGrain, pentru serviciile sale ChatGPT și Codex, cu un accent inițial pe utilizatorii din Uniunea Europeană. Această implementare strategică este un răspuns direct la cerințele de reglementare stabilite de Legea AI a UE, având ca scop furnizarea unui mecanism trasabil pentru conținutul generat de AI. Compania afirmă că performanța textGrain în detectarea textului filigranat atinge sau depășește abordările existente, inclusiv cele dezvoltate de Google DeepMind și Anthropic.

Tehnic, textGrain încorporează modele subtile, imperceptibile, în textul generat, care pot fi identificate de un detector specializat. OpenAI raportează că această metodă de filigranare a fost evaluată comparativ cu alte soluții de top și demonstrează o eficacitate comparabilă. Crucial, compania subliniază că prezența filigranului nu degradează semnificativ calitatea sau lizibilitatea textului, așa cum reiese din scorurile benchmark care arată o diferență minimă între ieșirile filigranate și cele nefiligranate. Această abordare caută să echilibreze conformitatea cu reglementările cu experiența utilizatorului și integritatea conținutului.

Introducerea filigranării textului de către OpenAI, determinată de reglementările UE, marchează un pas important către o mai mare transparență și responsabilitate în conținutul generat de AI. Deși lansarea inițială este limitată la UE, aceasta stabilește un precedent care ar putea influența standardele globale pentru implementarea AI. Industria va urmări îndeaproape eficacitatea și adoptarea textGrain, precum și potențialele dezvoltări și provocări viitoare în proveniența conținutului AI.