AI Realizează Mai Multă Muncă în Spatele Noilor Modele AI, Susține Anthropic

Anthropic a împărtășit informații despre rolul tot mai mare al AI în propriile procese de dezvoltare, indicând faptul că sistemele AI efectuează acum o parte semnificativă din munca implicată în crearea de noi modele AI. Această tranziție către dezvoltarea asistată de AI este o tendință notabilă în domeniu, determinând compania să stabilească metrici specifice pentru a monitoriza această evoluție. Dezvăluirea acestei tendințe și a metricilor utilizate pentru urmărirea sa a avut loc la scurt timp după ce CEO-ul Dario Amodei a pledat public pentru o încetinire colectivă a dezvoltării AI de frontieră, subliniind preocupările legate de ritmul și direcția progresului AI.

Compania urmărește, se pare, acest progres prin intermediul a trei metrici cheie: automatizare, supravegherea agenților și cheltuielile pentru siguranță. Automatizarea se referă probabil la gradul în care agenții AI pot efectua independent sarcini în ciclul de viață al dezvoltării modelului, de la curatarea datelor până la generarea de cod și testare. Supravegherea agenților se referă la sistemele umane sau AI responsabile de monitorizarea și ghidarea acestor procese de dezvoltare autonome, asigurând alinierea cu rezultatele dorite și cu liniile directoare etice. Cheltuielile pentru siguranță reflectă resursele dedicate mitigării riscurilor și asigurării implementării responsabile a sistemelor AI din ce în ce mai capabile, un aspect critic având în vedere implicațiile potențiale ale AI avansate.

Această dezvoltare semnifică o potențială accelerare a ciclurilor de cercetare și dezvoltare AI, pe măsură ce AI ajută la construirea unui AI mai sofisticat. Concentrarea pe metrici precum automatizarea și supravegherea sugerează o mișcare către pipeline-uri de dezvoltare AI mai autonome, ridicând întrebări despre practicile viitoare din industrie și rolul cercetătorilor umani. Accentul pus de Anthropic pe cheltuielile pentru siguranță, alături de aceste progrese, subliniază provocarea continuă de a echilibra progresul rapid cu inovația responsabilă în peisajul AI.