Agenții de Codare AI Instalează Cod Necunoscut/Nestrăin pe Rețelele Corporative

Cercetătorii au descoperit o defecțiune critică de securitate prin care agenții de codare AI instalează involuntar cod nestrăin pe rețelele corporative. Prin scanarea a mii de domenii active aparținând unor companii majore, au identificat nume de domenii neînregistrate și pachete de cod în fișiere precum llms.txt. Când aceste domenii nepretinse au fost înregistrate și pachete malițioase au fost găzduite, agenții AI, inclusiv cei de la Anthropic, OpenAI și Nous Research, au fost observați descărcând și executând acest cod, ducând la apeluri de tip 'phone-home' de la companii Fortune 500 în decurs de o oră.

Vulnerabilitatea tehnică provine din modelul de încredere utilizat de acești agenți AI, care tratează documentația furnizorilor ca adevăr absolut, fără verificare. Cercetătorii au constatat că agenți precum Claude, Codex și Hermes au fost implicați în executarea acestui cod nestrăin. Această lipsă de validare creează un risc semnificativ asupra lanțului de aprovizionare, deoarece vulnerabilitățile exploatate s-ar putea propaga rapid în diverse straturi ale infrastructurii întreprinderilor, inclusiv SaaS, cloud și endpoint-uri.

Această descoperire subliniază un decalaj major în măsurile de securitate actuale, deoarece utilizarea tot mai extinsă a AI agentice creează o suprafață de atac mai mare pe care apărările existente nu sunt pregătite să o gestioneze. Implicațiile sunt severe, permițând potențial atacuri extinse asupra lanțului de aprovizionare, asemănătoare breșei SolarWinds. Cercetătorii subliniază că modelul actual de încredere este defect, necesitând dezvoltarea urgentă a unor noi protocoale de securitate pentru a proteja împotriva unor astfel de amenințări, pe măsură ce adopția agenților AI continuă să accelereze.