Proiectul de lege propus de Anthropic privind siguranța AI se activează doar la un prag ridicat de daune

Anthropic a propus un proiect de lege privind siguranța AI, care ar permite intervenția doar dacă un incident potențial atinge un prag ridicat: cel puțin 50 de decese sau daune de 1 miliard de dolari. Propunerea stabilește și o procedură de raportare pentru evaluatorii care identifică un risc iminent. Pragurile și procesul de analiză contează deoarece definesc condițiile în care preocupările privind sistemele AI ar putea duce la acțiuni oficiale ale guvernului.

Conform propunerii, evaluatorii trebuie să raporteze orice risc iminent Departamentului Comerțului în cel mult 72 de ore. Departamentul ar prezenta apoi dovezile unui judecător federal și ar aștepta un ordin, în loc să acționeze doar pe baza raportului evaluatorilor. Articolul nu precizează ce anume trebuie să evalueze aceștia, cum s-ar calcula pragurile privind decesele sau daunele și ce măsuri ar putea autoriza un ordin judecătoresc.

Propunerea introduce analiza unui judecător între raportarea inițială privind siguranța și orice intervenție ulterioară, stabilind totodată un prag substanțial de prejudicii pentru aplicarea legii. Impactul practic ar depinde de evoluția propunerii și de adoptarea ei; informațiile disponibile nu menționează stadiul legislativ sau pașii următori.