"Ne-ar putea ucide pe toți": Ce cred cu adevărat cercetătorii Anthropic despre superinteligență

Jacob Coxon, un cercetător în pretraining la Anthropic, și-a anunțat demisia pe platforma X, alți doi colegi urmându-i exemplul la scurt timp. Această plecare colectivă semnalează un dezacord intern semnificativ și preocupări în rândul cercetătorilor Anthropic cu privire la abordarea companiei în dezvoltarea AI-ului avansat, în special în ceea ce privește riscurile existențiale potențiale asociate cu superinteligența.

Esența preocupării pare să decurgă din convingerea cercetătorilor că dezvoltarea superinteligenței, un AI ce depășește cu mult abilitățile cognitive umane, prezintă o amenințare necontrolabilă și potențial catastrofală. Anxietățile lor sunt amplificate de percepția lipsei unor măsuri de siguranță adecvate și de ritmul rapid al progresului AI, sugerând că potențialul consecințelor neintenționate sau al utilizării malițioase este subestimat.

Această situație ridică întrebări critice despre siguranța AI-ului și considerațiile etice în dezvoltarea sistemelor AI puternice. Implicațiile pentru industria AI mai largă sunt substanțiale, putând duce la o examinare sporită a protocoalelor de siguranță și la o abordare mai precaută a dezvoltării AI. Ce urmează probabil va implica o analiză mai profundă a eticii cercetării interne și a impactului societal pe termen lung al AI-ului avansat.