Anthropic susține că modelul AI chinezesc GLM-5.3 posedă abilități de hacking de tip Mythos

Anthropic a publicat un raport "red teaming" de frontieră, detaliind preocupări semnificative legate de capacitățile de protecție ale modelului GLM-5.3 de la Zhipu AI. Raportul susține că modelul posedă abilități de hacking de tip "Mythos-class", indicând un nivel ridicat de sofisticare în potențialul său de utilizare abuzivă. Acest lucru sugerează că modelul poate fi manipulat cu ușurință pentru a genera conținut dăunător sau malițios, reprezentând un risc pentru utilizatori și sisteme.

Evaluarea tehnică relevă că mecanismele de siguranță ale GLM-5.3 sunt slabe, permițând ocolirea restricțiilor intenționate. Deși detaliile tehnice specifice ale vulnerabilităților nu sunt pe deplin dezvăluite în raportul inițial, implicația este că arhitectura modelului sau datele de antrenament ar fi putut permite dezvoltarea acestor capacități avansate de generare de conținut dăunător. Acest lucru contrastează cu protocoalele de siguranță robuste așteptate pentru modelele AI de frontieră.

Această descoperire are implicații semnificative pentru industria AI, în special în ceea ce privește dezvoltarea și implementarea responsabilă a modelelor AI puternice. Subliniază provocarea continuă de a asigura siguranța și securitatea AI în rândul diferiților dezvoltatori și regiuni. Eforturile viitoare se vor concentra probabil pe metodologii de testare îmbunătățite și standarde internaționale mai stricte pentru protecția modelelor AI.