Avocații își cer scuze după ce citate generate de Claude false apar în cazul concedierilor lui Trump

Avocații care reprezentau un fost oficial de la Homeland Security au recunoscut că au folosit Claude de la Anthropic pentru a redacta o cerere în instanță. Cererea includea citate fabricate, ceea ce a dus la scuze din partea avocaților implicați. Acest incident evidențiază potențialul de erori la utilizarea instrumentelor AI în contexte legale.

Avocații au folosit Claude pentru a ajuta la redactarea cererii în instanță, dar AI a generat informații false. Acest lucru a dus la includerea de citate fabricate, care au fost descoperite ulterior. Avocații și-au cerut scuze pentru eroare și au recunoscut utilizarea greșită a instrumentului AI.

Incidentul ridică întrebări cu privire la utilizarea AI în munca juridică și necesitatea unei verificări atente a conținutului generat de AI. De asemenea, subliniază importanța supravegherii umane atunci când se utilizează instrumente AI. Comunitatea juridică reevaluează acum utilizarea AI în munca lor.