Mai mulți cercetători părăsesc Anthropic și Google, escaladând avertismentele despre viitorul AI

Joe Benton și Josh Engels, foști angajați la Anthropic și Google Brain, s-au reorientat către cercetarea independentă în domeniul siguranței AI, semnalând o neliniște crescândă în comunitatea AI cu privire la traiectoria dezvoltării AI avansate. Decizia lor de a părăsi laboratoare de cercetare bine finanțate subliniază o urgență percepută de a aborda riscurile potențiale asociate cu sistemele AI din ce în ce mai puternice, înainte ca acestea să devină greu de gestionat.

Mutația cercetătorilor accentuează o tendință mai largă, în care siguranța AI devine o preocupare mai proeminentă, trecând de la discuții teoretice la priorități practice de cercetare. Deși detalii specifice despre munca lor independentă nu sunt încă publice, motivația declarată indică un accent pe înțelegerea și atenuarea riscurilor existențiale care ar putea apărea din viitoarele progrese AI. Această plecare din mediile de cercetare corporative stabilite sugerează o dorință de mai multă autonomie în urmărirea cercetării critice pentru siguranță.

Această tendință a cercetătorilor care prioritizează siguranța în detrimentul dezvoltării rapide ar putea avea implicații semnificative asupra direcției viitoare a cercetării și implementării AI. Sugerează o potențială schimbare a accentului în industrie, sau cel puțin o tensiune crescândă între inovație și prudență. Munca independentă a lui Benton și Engels va fi probabil atent urmărită de comunitatea AI mai largă, pe măsură ce aceștia navighează provocările complexe ale asigurării siguranței pe termen lung a AI.