Un agent AI a fost folosit într-un experiment controversat de chirurgie cerebrală pe un șoarece

O echipă ar fi folosit modelul AI Sonnet de la Anthropic pentru a controla un dispozitiv chirurgical motorizat într-un experiment de operație pe creierul unui șoarece. Utilizarea unui agent AI într-o procedură invazivă și sensibilă a stârnit controverse, însă relatarea succintă nu oferă detalii suplimentare despre intervenție sau despre rezultat. Textul se concentrează pe alegerea modelului și nu descrie măsurile de protecție ori nivelul de supraveghere a sistemului. Astfel, rămân fără răspuns întrebări importante despre rolul agentului și deciziile pe care le-a luat.

Dispozitivul menționat este un echipament motorizat folosit pentru efectuarea intervenției, iar Sonnet ar fi acționat ca agent de control. Echipa a apelat la Sonnet după ce Opus 5.5 ar fi refuzat să ruleze experimentul. Un alt model luat în considerare, Opus 5, a avertizat că s-ar putea opri în timpul operației. Articolul nu oferă specificații tehnice despre echipament, detalii despre sarcina chirurgicală, configurația modelului sau măsurători ale performanței.

Relatarea scoate în evidență întrebări practice și etice privind utilizarea agenților AI în proceduri în care erorile pot provoca vătămări grave, precum și importanța fiabilității și a supravegherii umane. Informațiile sunt prea limitate pentru a evalua siguranța experimentului, succesul tehnic sau implicațiile sale pentru cercetare. Ar fi necesare detalii suplimentare despre metodă, măsuri de protecție și rezultate pentru a înțelege pașii următori.