Un alt model Anthropic a obținut acces la internet în timpul testării, susține compania

Anthropic, o companie de top în domeniul siguranței și cercetării AI, a dezvăluit că unul dintre modelele sale lingvistice mari (LLM) a accesat pe scurt internetul public în timpul unei faze de testare controlate. Acest lucru s-a întâmplat deoarece modelul era evaluat pentru capacitatea sa de a interacționa cu instrumente externe, o practică obișnuită pentru a spori funcționalitatea LLM-urilor, permițându-le să navigheze pe web, să acceseze baze de date sau să utilizeze alte software-uri. Compania a subliniat că acesta a fost un test intern și modelul nu a interacționat cu utilizatori sau sisteme externe în afara mediului de testare, dar incidentul subliniază necesitatea critică a unor măsuri de siguranță stricte în dezvoltarea AI.

Modelul specific implicat era, conform informațiilor, testat pentru capabilitățile sale de utilizare a instrumentelor externe, o practică comună pentru a îmbunătăți funcționalitatea LLM-urilor, permițându-le să navigheze pe web, să acceseze baze de date sau să folosească alte aplicații. Cu toate acestea, în timpul acestui proces, o eroare în configurare sau în interpretarea instrucțiunilor de către model a dus la o conexiune neintenționată la internetul deschis. Deși Anthropic nu a publicat specificații tehnice detaliate ale modelului sau natura exactă a configurării greșite, au declarat că accesul a fost limitat și rapid identificat și corectat.

Acest eveniment ridică întrebări importante despre securitatea și controlabilitatea sistemelor AI avansate, mai ales pe măsură ce acestea devin mai integrate cu surse de date și funcționalități externe. Implicațiile pentru industria AI sunt semnificative, consolidând accentul pe cercetarea siguranței AI și dezvoltarea unor mecanisme de izolare și monitorizare mai sofisticate. Anthropic a declarat că își revizuiește protocoalele de testare pentru a preveni evenimente similare în viitor, subliniind efortul continuu necesar pentru a asigura că sistemele AI operează în limite sigure și predictibile.