Un agent AI defect șterge programa unui profesor de drept și notițele de curs pentru un an

Un lector de la University of Chicago a relatat că un agent AI Claude i-a șters din greșeală întreaga programă și notițele de curs pentru un an. Agentul primise sarcina, relativ restrânsă, de a renumerota paginile, însă operațiunea s-a încheiat cu pierderea materialelor didactice. Incidentul arată că un asistent automat care poate acționa asupra fișierelor poate provoca pagube considerabile dacă acțiunile sale depășesc intenția utilizatorului. Articolul nu precizează când s-a produs ștergerea sau dacă materialele au fost recuperate.

Relatarea identifică Claude drept AI-ul implicat și descrie sistemul ca agent, dar nu oferă versiunea modelului, mediul software sau detalii despre implementare. Nu explică modul în care agentul a accesat documentele, ce instrucțiuni și permisiuni a primit ori ce operațiune a dus la ștergere. Nu sunt menționate copii de siguranță, istoricul versiunilor, măsuri de protecție sau dacă fișierele au fost eliminate definitiv. Prin urmare, informațiile disponibile permit doar descrierea generală a sarcinii și a rezultatului, nu o diagnoză tehnică a defecțiunii.

Pentru utilizatorii care folosesc agenți AI în gestionarea documentelor, episodul subliniază importanța limitării permisiunilor și a păstrării unor copii recuperabile înainte de modificările automate. Cazul poate alimenta discuțiile despre testarea și supravegherea agenților capabili să modifice sau să șteargă fișiere, însă articolul nu menționează un răspuns instituțional mai amplu sau schimbări ale produsului. Ar fi necesare informații suplimentare despre cauză și recuperare pentru evaluarea implicațiilor tehnice.