Claude nu a putut accesa OpenAI; Anthropic a lansat Opus 5

Trei cercetători în securitate de la Hacktron AI au identificat o vulnerabilitate critică de corupere a memoriei într-o bibliotecă de procesare a imaginilor utilizată pe scară largă. Acest bug a fost descoperit inițial în timpul unei tentative de a investiga sistemele de securitate ale infrastructurii OpenAI, subliniind o cale potențială pentru acces neautorizat sau instabilitate a sistemului. Descoperirea subliniază provocările persistente în securizarea ecosistemelor software complexe și metodele sofisticate utilizate de cercetătorii în securitate.

Vulnerabilitatea constă într-o defecțiune de corupere a memoriei, o clasă comună de bug-uri care poate duce la blocări sau permite atacatorilor să execute cod arbitrar. Deși ținta inițială a fost OpenAI, descoperirile cercetătorilor au fost divulgate în mod responsabil, iar biblioteca de imagini afectată este utilizată în diverse aplicații. Detaliile tehnice specifice ale exploit-ului și biblioteca implicată nu au fost dezvăluite complet în raportul inițial, dar implicația este un risc de securitate semnificativ pentru orice sistem care se bazează pe această componentă.

În urma descoperirii, modelul Claude 3 Opus de la Anthropic a fost actualizat, sugerând că compania ar fi putut aborda probleme similare sau a încorporat remedieri derivate din această cercetare. Această evoluție este semnificativă, deoarece indică jocul continuu de-a șoarecele și pisica între cercetătorii în securitate și dezvoltatorii AI în identificarea și atenuarea vulnerabilităților. Incidentul subliniază, de asemenea, importanța auditării robuste a securității pentru bibliotecile fundamentale utilizate în dezvoltarea AI și nu numai.