SUA și Rusia au eliminat din draftul ONU obligația verificării umane pentru țintele alese de AI

O rundă recentă de negocieri ONU la Geneva, axată pe Sistemele de Arme Autonome Letale (LAWS), a dus la o modificare importantă a unui proiect de rezoluție. Statele Unite și Rusia au reușit să impună eliminarea unei clauze care cerea anterior verificarea umană pentru țintele identificate de sistemele AI. Această evoluție este semnificativă deoarece deschide potențial calea ca AI să ia decizii de viață și de moarte pe câmpul de luptă fără intervenție umană directă, ridicând întrebări etice și de securitate profunde.

Aspectul tehnic central se referă la procesul decizional al AI în sistemele de armament. Deși articolul nu intră în detalii despre algoritmi specifici, implicația este că AI ar putea fi împuternicit să identifice, să urmărească și să angajeze ținte autonom, pe baza parametrilor pre-programați sau a analizei în timp real. Eliminarea cerinței de verificare umană sugerează o mișcare către o autonomie sporită a acestor sisteme, îndepărtându-se de un model în care AI asistă operatorii umani către unul în care AI ar putea acționa independent.

Această schimbare are implicații considerabile pentru securitatea internațională și viitorul războiului. Ar putea accelera dezvoltarea și implementarea LAWS, ducând potențial la o cursă a înarmărilor în domeniul armamentului autonom. Absența supravegherii umane obligatorii ridică preocupări legate de responsabilitate, escaladare neintenționată și potențialul ca erorile sau prejudecățile din sistemele AI să aibă consecințe catastrofale pe câmpul de luptă.