Modelele AI marchează textul – Vei observa?

Dezvoltatori majori de AI, inclusiv Anthropic și Google, integrează marcarea textului în modelele lor, Anthropic Claude și Google Gemini deja dispunând de această tehnologie. Această adoptare pe scară largă este influențată semnificativ de presiunile de reglementare, în special de EU AI Act, care impune marcarea modelelor AI lansate după 2 august 2026, cu scopul de a combate conținutul generat de AI înșelător, pe diverse formate media.

Implementarea tehnică a marcării textului implică alterarea subtilă a distribuției de probabilitate a selecției cuvintelor în timpul generării textului. Spre deosebire de metadate, această metodă încorporează watermark-ul în textul însuși, determinând modelul să favorizeze anumite cuvinte, adesea clasificate în liste 'roșii' și 'verzi'. Acest proces, deși vizează invizibilitatea pentru cititorii umani, influențează tiparele statistice ale textului generat, făcându-l detectabil cu cheia corectă, dar potențial rezistent la parafrazare simplă. Ratele de detectare pentru watermark-urile media pot depăși 99%, dar eficacitatea pentru text, având în vedere natura sa mai constrânsă, este încă sub examinare.

Experții sunt împărțiți cu privire la posibilitatea implementării marcării textului fără a compromite utilitatea și calitatea textului generat de AI. Criticii susțin că orice alterare, oricât de subtilă, poate fi considerată o 'pervertire a scrisului', în special pentru textele mai scurte unde spațiul de manipulare este limitat. Susținătorii, totuși, sugerează că modificările sunt neglijabile pentru utilizatorul final și că compromisul este acceptabil pentru beneficiile trasabilității și combaterii dezinformării, deși impactul precis asupra 'utilității' rămâne un punct cheie de dispută.