Agenții AI au mai multe permisiuni decât utilizatorii, prezentând riscuri de securitate

Multe companii se confruntă cu o provocare de securitate în care agenții AI, utilizați pentru sarcini precum gestionarea tichetelor Jira sau a ramurilor GitHub, posedă mai multe permisiuni decât utilizatorii care interacționează cu ei. Acest lucru se întâmplă deoarece acești agenți operează, de obicei, printr-un singur cont de serviciu care necesită acces larg pentru a facilita diverse solicitări ale utilizatorilor. În consecință, orice acțiune pe care agentul o poate efectua poate fi executată și de oricine poate comunica cu agentul, amplificând potențialul de utilizare abuzivă.

Articolul discută soluții comune, dar insuficiente, cum ar fi instruirea modelului AI prin prompturi să nu efectueze acțiuni neautorizate. Această abordare eșuează deoarece modelul nu are cunoștință despre permisiunile utilizatorilor individuali, iar execuția instrumentului se bazează pe acreditările agentului. Deși OAuth per utilizator este o soluție mai curată, atunci când este fezabilă, este adesea nepractică pentru sisteme precum Kubernetes RBAC sau AWS IAM, iar gestionarea token-urilor utilizatorilor introduce propriile riscuri de securitate. Menținerea unui motor de politici separat devine, de asemenea, complexă din cauza oglindirii constante a modificărilor permisiunilor sistemului.

O abordare mai eficientă implică interogarea directă a sistemului care deține deja informațiile despre permisiuni înainte de a executa o acțiune. Instrumente precum Hallpass facilitează acest lucru acționând ca un intermediar care întreabă sistemul relevant (de exemplu, Jira, AWS) despre autorizarea unui utilizator pentru o anumită acțiune și resursă. Această metodă oferă trei răspunsuri distincte: 'allow', 'deny' și 'unknown', cazurile 'unknown' fiind tratate ca negări pentru a asigura securitatea chiar și atunci când sistemele upstream nu sunt disponibile sau întâmpină probleme.