Cum funcționează amprentarea textului generat de AI

Modelele AI pot încorpora amprente invizibile în textul generat, influențând subtil selecția token-urilor, astfel încât textul să pară normal, dar să poată fi detectat cu o cheie corespunzătoare. Această tehnică, inspirată de SynthID-Text de la Google DeepMind și implementată de Anthropic, vizează conformarea cu cerințele de transparență ale EU AI Act.

Procesul implică modificarea mecanismului de selecție a token-urilor fără a altera ponderile fundamentale ale modelului. Atunci când generează text, modelul atribuie probabilități pentru următorul token potențial. O cheie secretă și token-urile anterioare sunt apoi utilizate pentru a calcula scoruri pentru acești tokeni potențiali, influențând alegerea finală. De exemplu, Anthropic utilizează o metodă asemănătoare eșantionării de tip turneu, unde candidații sunt selectați pe baza probabilităților și apoi punctați, cel mai bine cotat token fiind ales, deviind potențial de la alegerea cea mai probabilă pentru a încorpora amprenta.

Deși amprenta este concepută să fie robustă, detectabilitatea sa poate fi influențată de numărul de opțiuni viabile de token-uri disponibile. Cercetările Google asupra SynthID-Text, utilizând o configurație de conservare a calității, nu au constatat nicio diferență statistic semnificativă în ratingurile utilizatorilor între răspunsurile amprentate și cele neamprentate, sugerând un impact minim asupra calității percepute a scrierii. Scopul principal este de a oferi o metodă verificabilă de identificare a conținutului generat de AI în scopuri de reglementare și transparență.