Mythos și Securitatea Cibernetică

Anthropic a dezvăluit Claude Mythos Preview, un model AI capabil să identifice și să exploateze vulnerabilități software. Capacitățile modelului sunt atât de avansate încât Anthropic a decis să limiteze accesul la aproximativ 50 de organizații, inclusiv Microsoft și Amazon Web Services. Această decizie ridică întrebări cu privire la transparență și potențialul de utilizare greșită a unor instrumente AI atât de puternice.

Mythos a demonstrat rezultate impresionante, cum ar fi găsirea a mii de vulnerabilități în sistemele de operare și browserele majore. A transformat vulnerabilitățile din Firefox, creând 181 de atacuri utilizabile, o îmbunătățire semnificativă față de modelele anterioare. Cu toate acestea, articolul evidențiază preocupările legate de lipsa evaluării publice și potențialul de rezultate fals pozitive. Performanța modelului este optimă pe proiecte open-source utilizate pe scară largă, ceea ce ridică întrebări cu privire la eficacitatea sa pe software-ul mai puțin comun.

Articolul subliniază necesitatea unui acces mai larg la model, inclusiv cercetători academici și specialiști în domeniu. Se argumentează că accesul limitat actual în rândul furnizorilor mari creează o asimetrie, lăsând potențial infrastructura critică vulnerabilă. Autorul sugerează că această situație va duce probabil la reglementare, iar o mai mare transparență și partajare de informații sunt necesare pe termen scurt. Articolul se încheie menționând că capacități similare au fost replicate folosind modele AI publice mai mici, sugerând că problema se extinde dincolo de o singură companie.