Filigranul text Anthropic poate fi ocolit cu ușurință pe mai multe modele Claude mai vechi

Articolul relatează că filigranul text Anthropic poate fi ocolit cu ușurință pe mai multe modele Claude mai vechi. Acest lucru contează deoarece filigranele sunt concepute pentru a ajuta la identificarea textului generat de AI, iar ocolirea lor le poate reduce utilitatea în distingerea rezultatului unui model de textul scris de oameni. Fragmentul furnizat nu precizează cine a testat filigranul sau când au fost stabilite constatările. De asemenea, nu prezintă un răspuns al Anthropic și nici planuri de remediere.

Singurul detaliu tehnic din materialul furnizat este că problema privește un filigran text și mai multe modele Claude mai vechi. Nu sunt indicate modelele afectate, modul în care este aplicat filigranul sau pașii prin care acesta poate fi eliminat ori evitat. Nu sunt incluse măsurători, condiții de testare, rate de detectare sau comparații cu modelele mai noi, astfel că amploarea și reproductibilitatea afirmației nu pot fi evaluate pe baza fragmentului. Titlul articolului este atribuit publicației The Decoder, dar nu este oferit context tehnic suplimentar.

Dacă se confirmă, vulnerabilitatea raportată ar putea limita fiabilitatea filigranării ca metodă de identificare a textului generat de modele AI. Fragmentul nu stabilește dacă sunt afectate și modelele Claude mai noi sau dacă Anthropic și-a modificat abordarea, astfel că aceste întrebări rămân deschise.