Încercările de a menține Oamenii în Bucla AI Pot, de Fapt, să-i Excludă

Cercetători de top în etica AI au identificat o problemă critică în designul agenților AI autonomi: mecanismul de supraveghere 'human-in-the-loop', menit să fie o măsură de siguranță, este adesea ineficient și poate exclude involuntar judecata umană. Lucrarea susține că practicile actuale prioritizează benchmark-uri AI precum viteza și acuratețea în detrimentul nevoilor supervizorilor umani, ducând la sisteme care copleșesc utilizatorii cu informații sau încurajează aprobarea pasivă. Acest lucru poate rezulta în agenți AI care acționează în moduri neintenționate sau neînțelese de utilizatori, așa cum s-a observat în incidente recente precum atacul asupra Hugging Face.

Din punct de vedere tehnic, problema provine din modul în care agenții AI sunt optimizați pentru metrici de performanță, mai degrabă decât pentru o colaborare umană eficientă. Această alegere de design duce la o situație în care oamenii devin simple 'instrumente de permisiune' fără capacitatea cognitivă de a se angaja cu adevărat în deciziile AI. Cercetătorii subliniază biasurile cognitive precum biasul de automatizare și biasul de ancorare, care sunt amplificate atunci când utilizatorii sunt copleșiți sau când AI prezintă informații într-un mod servil. Acest lucru subminează scepticismul critic și auto-monitorizarea necesare pentru o supraveghere semnificativă.

Pentru a aborda această problemă, cercetătorii propun introducerea 'fricțiunii' în interacțiunile om-AI, cum ar fi solicitarea utilizatorilor să-și articuleze propriul plan înainte ca AI să-l dezvăluie pe al său, sau ca AI să pună întrebări despre dovezile pentru propriile recomandări. De asemenea, organizațiile sunt sfătuite să structureze fluxurile de lucru pentru a preveni oboseala și cedarea cognitivă. Deși aceste măsuri pot părea contraintuitive pentru scopul eficienței AI, ele sunt prezentate ca fiind esențiale pentru menținerea controlului uman autentic și prevenirea eroziunii pe termen lung a capacităților cognitive umane necesare pentru gestionarea sistemelor AI avansate.