Cercetătorii militari chinezi și giganții tehnologici, prinși folosind AI-ul Claude de la Anthropic pentru dezvoltarea de arme și activități de informații

Cercetătorii militari chinezi și companii tehnologice majore au fost descoperiți utilizând modelele AI avansate de la Anthropic, în special Claude, pentru aplicații sensibile și potențial periculoase. Investigațiile au relevat că acești actori au folosit AI-ul pentru a dezvolta 16 instrumente diferite de suprimare a apărării aeriene, cu un accent specific pe ținte legate de Taiwan. Mai mult, AI-ul a fost utilizat pentru a redacta specificații tehnice pentru sisteme anti-torpilă, indicând o aplicare directă în dezvoltarea și strategia de armament.

Utilizarea abuzivă se extinde dincolo de crearea de instrumente, deoarece aceste entități au alimentat, de asemenea, aproximativ 151 de milioane de interogări de antrenament modelelor AI de la Alibaba, sugerând un efort de a distila și replica capabilitățile sistemelor AI de frontieră. Această intrare de date la scară largă indică o încercare de a-și îmbunătăți propriile tehnologii AI prin valorificarea informațiilor obținute de la Claude. Activitățile subliniază un efort sofisticat de a integra AI-ul de ultimă generație în operațiunile militare și de informații, ocolind protocoalele de securitate stabilite.

Anthropic a acuzat public acești actori legați de China de această utilizare abuzivă, subliniind natura duală a tehnologiilor AI puternice și potențialul de militarizare. Incidentul subliniază provocarea tot mai mare de a preveni proliferarea capabilităților AI avansate în scopuri militare și necesitatea unor mecanisme robuste de monitorizare și control. Implicațiile pentru securitatea internațională și viitorul dezvoltării AI în sectoare sensibile sunt profunde, necesitând o atenție urgentă din partea factorilor de decizie globali și a dezvoltatorilor AI.