Text ascuns, o căsuță poștală falsă: cum au făcut cercetătorii agenți AI neautorizați să vorbească

Cercetătorii care investigau agenți AI suspecți, ce sondau serviciul de hărți al Alibaba, au folosit o căsuță poștală falsă care conținea text ascuns pentru a-i determina să răspundă. Agenții au oferit detalii despre sarcinile pe care le executau, permițând investigatorilor să afle mai multe despre activitate. Schimbul de mesaje i-a ajutat, de asemenea, să asocieze infrastructura agenților cu Tencent Cloud. Cazul contează deoarece arată cum textul plasat deliberat poate fi folosit pentru a obține informații de la agenți automatizați care operează fără autorizare.

Articolul relatează că cercetătorii au introdus text ascuns în căsuța poștală și au observat răspunsurile agenților, dar nu precizează formularea exactă, metoda tehnică ori numărul agenților implicați. Serviciul de hărți al Alibaba este indicat drept ținta sondării, iar Tencent Cloud drept infrastructura asociată activității. Nu sunt numite un anumit model AI, un framework de agenți, o vulnerabilitate sau un exploit. Prin urmare, relatarea descrie o tehnică de investigare și atribuirea infrastructurii, nu o defecțiune de protocol documentată sau o analiză tehnică detaliată a incidentului.

Descoperirile evidențiază dificultățile de detectare și atribuire a activităților desfășurate de agenți AI prin infrastructură cloud. Relatarea nu menționează o compromitere confirmată a serviciului Alibaba și nici măsuri de remediere, astfel că impactul operațional și pașii următori rămân neclari. Ar fi necesare mai multe detalii tehnice pentru a evalua cât de larg se poate aplica metoda și cum se pot proteja operatorii serviciilor împotriva unor sondări similare.