Două caractere ascunse într-un prompt pentru LLM pot redirecționa lama unui robot, demonstrează cercetătorii

Titlul descrie o demonstrație universitară a unui atac care implică un model lingvistic de mari dimensiuni (LLM) conectat la un robot. Potrivit acestuia, introducerea a doar două caractere în LLM poate determina robotul să îndrepte o lamă spre o altă țintă. Afirmația contează deoarece sugerează că intrări foarte mici și ascunse într-un sistem AI ar putea influența acțiunile unei mașini fizice și ar putea crea riscuri de siguranță.

Textul furnizat nu precizează ce universitate a realizat cercetarea, cum au fost introduse caracterele sau ce model și robot au fost folosite. Nu explică arhitectura sistemului, mecanismul de control al robotului, rata de succes a atacului sau dacă demonstrația a avut loc într-o simulare ori cu hardware fizic. În afară de afirmația din titlu, nu sunt oferite specificații tehnice, rezultate experimentale, măsuri de protecție sau detalii despre evaluare.

Scenariul relatat ridică întrebări despre securizarea roboților conectați la AI, mai ales a celor care pot manipula obiecte capabile să provoace răni. Totuși, informațiile disponibile sunt prea limitate pentru a stabili cât de generală este metoda sau ce măsuri de apărare recomandă cercetătorii. O evaluare suplimentară ar necesita studiul original sau un articol mai amplu care să descrie atacul și limitele sale.