Ascunderea capabilităților în modelele AI

Cercetătorii prezintă o metodă de a ascunde capabilități computaționale arbitrare într-un model AI, astfel încât evaluările obișnuite să nu le dezvăluie neapărat. Atacurile încorporează rețele neuronale criptate în ponderile modelului-gazdă, iar rețeaua ascunsă este decriptată și executată doar după primirea unui declanșator secret. Lucrarea contestă o presupunere importantă a auditurilor de siguranță: că comportamentele periculoase pot fi elicitate în mod fiabil înainte de lansarea unui model. Acest lucru contează deoarece evaluatorii s-ar putea să nu poată exclude capabilități ascunse doar prin testare, chiar dacă au acces la ponderile interne ale modelului.

Construcțiile folosesc digital lockers și se bazează pe ipoteze criptografice pentru a face circuitele încorporate dificil de elicitat și interpretat. Autorii extind cercetări anterioare despre ascunderea unor șiruri fixe, demonstrând abordarea pentru calcule arbitrare, și implementează demonstrațiile în PyTorch. Ei testează mai multe metode de elicitate, inclusiv fine-tuning, adăugarea de zgomot ponderilor, căutarea declanșatoarelor prin metode bazate pe gradient și antrenarea adversarială latentă. Pentru experimente, folosesc o sarcină restrânsă de predicție a reacțiilor chimice, ca proxy pentru capabilități relevante pentru riscuri chimice, biologice, radiologice și nucleare; articolul nu susține că a demonstrat un sistem nociv implementat în practică.

Rezultatele indică faptul că metodele de elicitate testate nu dezvăluie în mod fiabil comportamentul ascuns, iar analiza criptografică oferă garanții în condițiile ipotezelor declarate. Autorii afirmă că lucrarea evidențiază o limită a auditurilor care se bazează pe elicitatea capabilităților și publică modelele pentru a sprijini cercetarea unor apărări mai solide.