Cercetători în Securitate au Folosit Claude pentru a Accesa Conturile Angajaților OpenAI

O echipă de trei cercetători independenți în securitate a demonstrat o breșă de securitate semnificativă prin accesarea cu succes a conturilor angajaților OpenAI, utilizând modelele AI Claude de la Anthropic într-un interval de 72 de ore. Acest incident subliniază potențialele vulnerabilități în modul în care modelele AI pot fi utilizate în scopuri malițioase, chiar și de către profesioniști în securitate care testează apărările. Cercetătorii au reușit să acceseze depozitul GitHub "Monorepo" al OpenAI, despre care se raportează că ar conține secretele algoritmice proprietare ale companiei.

Detaliile tehnice ale exploatării au implicat utilizarea Claude Opus 4.8 și 5 pentru a ocoli măsurile de securitate, deși metodele specifice nu au fost pe deplin dezvăluite în raportul inițial. Cercetătorii au reușit să acceseze depozitul prin intermediul serviciului terț Discourse, care găzduiește forumurile comunitare OpenAI. Deși au dovedit accesul prin trimiterea unei cereri de tip pull request dintr-un cont Codex al unui angajat, s-au oprit înainte de a descărca sau manipula direct codul intern sensibil din Monorepo.

Acest incident ridică întrebări critice despre implicațiile de securitate ale modelelor AI avansate și potențialul atacurilor sofisticate de inginerie socială. Abilitatea de a compromite conturi și de a accesa depozite de cod sensibile, chiar și fără exfiltrarea directă a datelor, subliniază necesitatea unor protocoale de securitate îmbunătățite și a unei vigilențe continue în peisajul AI în rapidă evoluție. Se așteaptă ca investigațiile ulterioare să dezvăluie mai multe despre vulnerabilitățile specifice exploatate și contramăsurile necesare.