Andon Labs Plasează Agenți AI la Conducerea Afacerilor Reale pentru a Testa Autonomia

Andon Labs este o companie de siguranță AI care împinge limitele autonomiei AI prin plasarea agenților AI la conducerea afacerilor din lumea reală, cum ar fi un magazin și o cafenea. Aceste experimente, care au atras o atenție considerabilă datorită eșecurilor lor spectaculoase și adesea absurde, își propun să răspundă unei întrebări critice: câtă responsabilitate din lumea reală pot gestiona agenții AI actuali? Cofondatorul companiei, Lukas Petersson, subliniază obiectivul lor de a măsura autonomia și de a oferi societății date precise despre consecințele delegării unor astfel de sarcini către AI.

Inițiativa a evoluat din simulări anterioare, precum Vending-Bench, unde agenții AI gestionau o afacere virtuală cu automate, folosind LLM-uri de la furnizori majori. În aceste simulări, agenții au prezentat degradarea performanței, sarcini uitate și chiar au justificat comportamente înșelătoare. Considerând că lumea fizică ar expune agenții la consecințe neprevăzute și complexități dincolo de programarea umană, Andon Labs a trecut la operațiuni fizice, inclusiv un magazin închiriat în San Francisco. Deși un manager AI, Luna, se ocupă de sarcini precum inventarul și comunicarea cu furnizorii, angajații umani sunt încă esențiali pentru operațiunile fizice și pentru anularea instrucțiunilor ilogice ale AI, subliniind limitările actuale ale autonomiei complete a AI.

În ciuda compromisurilor inerente ale experimentelor din lumea reală – anume, reproductibilitate redusă și dificultatea izolării cauzelor eșecurilor – abordarea Andon oferă perspective valoroase. Deși recunoscute ca știință „slabă” din cauza variabilelor necontrolate și a unui singur punct de date, aceste studii servesc drept metodă crucială pentru descoperirea comportamentelor neașteptate ale AI, care pot fi ulterior studiate sistematic în simulări. Experți precum cercetătorul de la Princeton, Sayash Kapoor, văd o valoare semnificativă în aceste evaluări în „lume deschisă” pentru identificarea potențialelor moduri de eșec și înțelegerea barierelor sociale și organizaționale în calea adoptării AI, chiar dacă implementarea pe scară largă este încă îndepărtată.