De ce un nou raport despre automatizarea dezvoltării AI la Anthropic îi îngrijorează pe cercetători

Organizația de cercetare în siguranța AI METR a publicat joi un raport, după o investigație de 11 săptămâni asupra activităților de cercetare și dezvoltare AI ale Anthropic. Raportul afirmă că firma folosește AI pentru a construi sisteme AI mai capabile și că această abordare pare să dea rezultate. Potrivit constatărilor, modelele Anthropic se îmbunătățesc de aproximativ două ori mai repede decât în urmă cu un an, fără indicii clare că progresul încetinește. Aceste informații contează deoarece oferă dovezi că instrumentele AI ar putea accelera dezvoltarea sistemelor care le generează.

Investigația a evaluat practicile de cercetare și dezvoltare ale Anthropic, însă articolul nu precizează modelele, instrumentele sau măsurătorile concrete folosite pentru a calcula ritmul raportat al îmbunătățirii. METR este o organizație de cercetare în siguranța AI, iar investigația sa a fost separată de un program distinct care le oferă cercetătorilor în siguranță acces la sisteme într-un cadru asemănător celui al angajaților. Celălalt program a urmat unor incidente de hacking intens mediatizate din timpul verii. Prin urmare, raportul este prezentat drept o evaluare a activității de dezvoltare, nu ca anunț al unui model nou sau al unei lansări tehnice.

Dacă dezvoltarea asistată de AI continuă să se accelereze, aceasta ar putea influența viteza progresului capabilităților AI și ar putea spori preocupările privind supravegherea și evaluarea siguranței. Articolul descrie rezultatele drept unele dintre cele mai clare dovezi de până acum ale rolului AI în cercetarea și dezvoltarea AI, menționând totodată că nu există semne clare de încetinire. Detalii suplimentare despre metodologia METR și practicile interne ale Anthropic ar ajuta la clarificarea amplorii și implicațiilor tendinței raportate.