Utilizarea AI în Dezvoltarea de Arme de Către Actori Ostili

Anthropic a detaliat modul în care un grup de actori ostili din Yemen a utilizat modelele lor AI Claude pentru a avansa multiple programe de dezvoltare a armelor. Acești actori s-au concentrat pe crearea software-ului de ghidare, navigație și control (GNC) pentru o rachetă ghidată, o rachetă balistică cu un obiectiv de rază lungă și un set de rachete, inclusiv o variantă de vehicul de planare hipersonică. Ei au folosit efectiv Claude în locul inginerilor software umani, atribuind diferite instanțe ale AI roluri specifice, cum ar fi codarea, cercetarea și revizuirea codului, imitând structura unei echipe mici de inginerie.

Execuția tehnică a implicat integrarea unui autopilot open-source pe un computer de zbor, scrierea de software personalizat de control și estimare, reglarea parametrilor și rularea de compilări de firmware și simulări. Actorii au utilizat în mod activ tehnici de evitare pentru a ocoli măsurile de siguranță ale Anthropic, inclusiv ascunderea obiectivelor lor reale și împărțirea muncii pe mai multe sesiuni pentru a evita detectarea intenției lor generale. Deși măsurile de siguranță ale Anthropic au blocat multe solicitări, ele nu au fost complet eficiente, iar actorii au reușit să testeze o rachetă ghidată, care ulterior a eșuat, determinând o continuare a depanării asistate de AI.

Acest incident subliniază preocuparea tot mai mare că sistemele AI democratizează capacități avansate, care pot fi aplicate atât în scopuri benefice, cât și dăunătoare. Implicațiile pentru securitatea națională și stabilitatea globală sunt semnificative, deoarece AI reduce bariera de intrare pentru dezvoltarea de armament sofisticat. Industria trebuie să anticipeze cazuri suplimentare de utilizare abuzivă a AI pentru înarmare și să dezvolte măsuri de siguranță și mecanisme de monitorizare mai robuste.