Jacob Coxon, avertizor de la Anthropic, își reiterează avertismentele privind AI la o audiere în NYC: 'Extrem de nesăbuință'

Fostul inginer Anthropic, Jacob Coxon, a exprimat public îngrijorări severe legate de protocoalele de siguranță AI și practicile de dezvoltare din cadrul companiei, descriindu-le ca fiind 'extrem de nesăbuință'. Mărturia sa la o audiere în New York a subliniat o grabă percepută către implementarea modelelor AI din ce în ce mai puternice, fără garanții adecvate, ceea ce ar putea duce la rezultate catastrofale. Avertismentele lui Coxon provin din experiența și observațiile sale directe din interiorul Anthropic, sugerând un decalaj semnificativ între declarațiile publice ale companiei privind siguranța și acțiunile sale interne.

Coxon a detaliat instanțe specifice și tendințe generale pe care le consideră a demonstra această nesăbuință, subliniind ritmul rapid al progresului AI și măsurile insuficiente existente pentru a atenua riscurile existențiale. El a indicat potențialul sistemelor AI avansate de a manifesta comportamente imprevizibile sau de a fi utilizate greșit, prezentând amenințări pe care cadrele actuale de siguranță nu sunt bine echipate să le gestioneze. Esența argumentului său constă în convingerea că urmărirea capacităților AI depășește dezvoltarea unor mecanisme robuste de siguranță și control, creând un dezechilibru periculos.

Aceste dezvăluiri au implicații semnificative pentru industria AI în ansamblu, ridicând întrebări despre responsabilitatea corporativă, supravegherea de reglementare și considerațiile etice legate de dezvoltarea inteligenței artificiale generale. Mărturia lui Coxon va alimenta probabil dezbaterile continue privind siguranța AI și ar putea genera apeluri pentru reglementări mai stricte și audituri independente ale proceselor de dezvoltare AI. Traiectoria viitoare a dezvoltării AI ar putea fi influențată de astfel de dezvăluiri publice și de răspunsurile ulterioare ale industriei și guvernelor.