Anthropic oferă cercetătorilor METR acces la nivel de angajat

Anthropic le-a oferit cercetătorilor METR acces la nivel de angajat pentru a examina riscurile, incidentele și practicile companiei AI. METR va realiza și publica propriile evaluări, în loc să se bazeze exclusiv pe descrierile Anthropic despre activitatea sa privind siguranța. Aranjamentul contează și pentru că Anthropic a renunțat la dreptul de a bloca publicarea, permițând cercetătorilor să-și prezinte independent concluziile.

Sursa descrie accesul ca fiind la nivel de angajat, dar nu precizează ce sisteme, documente sau echipe vor putea examina cercetătorii. Nu oferă detalii nici despre metodele de evaluare, calendarul verificărilor sau criteriile pe care METR le va folosi pentru a analiza riscurile și incidentele. Anunțul privește examinarea independentă a practicilor companiei, nu lansarea unui nou model AI sau o modificare a specificațiilor unui model.

Aranjamentul ar putea oferi o perspectivă externă asupra modului în care Anthropic identifică și gestionează riscurile, oferind publicului acces la evaluări care nu sunt controlate de companie. Impactul său va depinde de amploarea accesului și de conținutul concluziilor publicate de METR. Articolul nu precizează când va apărea prima evaluare.