Se pare că Muse de la Meta permite descărcarea întregului său sistem de fișiere

O preocupare semnificativă de securitate a apărut în legătură cu AI-ul Muse de la Meta, doi dezvoltatori raportând că au reușit să acceseze și să descarce cu ușurință întregul său sistem de fișiere. Peter James și Jonny L. Saunders au descoperit independent că, prin utilizarea unor solicitări specifice, Muse ar compila și partaja sistemul său de fișiere rădăcină, fișierele de sistem Ubuntu, șabloanele de aplicații și documentația internă. Saunders a descris procesul ca fiind "extrem de ușor" și a remarcat că Muse a prezentat "aproape nicio rezistență la injecția de solicitări", sugerând o potențială vulnerabilitate în modul în care AI-ul gestionează intrările utilizatorilor și accesul la date. Acest incident ridică întrebări cu privire la măsurile de securitate implementate pentru modelele AI care gestionează informații sensibile.

Din punct de vedere tehnic, Muse de la Meta operează în mașini virtuale Linux persistente, fiecare utilizator având propria instanță dedicată. Această arhitectură este concepută pentru a izola datele utilizatorilor și a preveni contaminarea încrucișată. Cu toate acestea, ușurința raportată cu care sistemul de fișiere ar putea fi exfiltrat indică faptul că apărările împotriva injecției de solicitări ar putea fi insuficiente, permițând accesul neautorizat la fișiere la nivel de sistem. Natura specifică a solicitărilor utilizate și conținutul exact al sistemului de fișiere scurs, dincolo de fișierele generale de sistem și documentație, nu sunt detaliate complet, dar implică accesul la date operaționale de bază.

Deși Meta neagă o breșă de securitate, implicațiile unui astfel de incident ar putea fi substanțiale, afectând potențial încrederea utilizatorilor și securitatea percepută a platformelor AI. Ușurința accesului sugerează necesitatea ca Meta să reevalueze și să consolideze apărările împotriva injecției de solicitări și controalele de acces la date pentru Muse. Dezvoltările viitoare se vor concentra probabil pe îmbunătățirea posturii de securitate a unor astfel de sisteme AI pentru a preveni evenimente similare și a asigura integritatea datelor utilizatorilor și a informațiilor proprietare.