Despre previzualizarea Mythos de la Anthropic și Proiectul Glasswing

Modelul Claude Mythos Preview al Anthropic generează un interes semnificativ în industria de securitate cibernetică datorită capacităților sale avansate de atac cibernetic. Compania nu lansează modelul publicului, invocând preocupări de securitate și a inițiat Proiectul Glasswing pentru a identifica și remedia în mod proactiv vulnerabilitățile din diverse aplicații software. Această inițiativă vizează atenuarea riscurilor potențiale înainte ca actorii rău intenționați să poată exploata capacitățile modelului.

Detaliile tehnice dezvăluie că aceste modele prezintă o sofisticare sporită în capacitățile de atac cibernetic, inclusiv capacitatea de a scrie exploatări eficiente și de a identifica vulnerabilități complexe. Ele pot înlănțui erori de corupție a memoriei și pot efectua mai multe cu o singură solicitare, reducând nevoia de orchestrare extinsă. Compania de securitate Aisle a reușit să replice vulnerabilitățile pe care le-a găsit Anthropic, folosind modele publice mai vechi, mai ieftine. Cu toate acestea, există o diferență între găsirea unei vulnerabilități și transformarea acesteia într-un atac.

Articolul subliniază urgența tot mai mare de a ne pregăti pentru un viitor în care exploatările zero-day devin obișnuite, iar atacatorii posedă capacități ofensive avansate. Autorul sugerează că progresele în modelele AI, în special în contextul software-ului, vor accelera ritmul în care sunt descoperite și exploatate vulnerabilitățile. Orientarea este în mare parte corectă: trebuie să ne pregătim pentru o lume în care exploatările zero-day sunt monedă curentă și mulți atacatori au brusc capacități ofensive care depășesc cu mult abilitățile lor.