Compania chineză de AI Z.AI acuzată că a încărcat în secret date ale dezvoltatorilor, își cere scuze

A doua cea mai mare companie de AI din China, Z.AI, se confruntă cu reacții negative semnificative după ce mai mulți dezvoltatori proeminenți au raportat că datele din spațiul lor de lucru local erau încărcate pe serverele companiei fără consimțământ explicit. Acest incident ridică preocupări serioase legate de confidențialitatea și securitatea datelor în cadrul comunității de dezvoltare AI, în special în ceea ce privește gestionarea codului sensibil și a informațiilor despre proiecte. Z.AI și-a cerut ulterior scuze pentru exfiltrarea neautorizată a datelor, recunoscând că au fost făcute 564 de încercări de a încărca aproximativ 313MB de date din spațiile de lucru ale utilizatorilor.

Din punct de vedere tehnic, problema a implicat încercări neautorizate ale sistemelor Z.AI de a accesa și transfera fișiere locale, ocolind protocoalele standard de consimțământ al utilizatorului. Compania, care se află în spatele seriei de modele AI GLM, nu a implementat măsuri de protecție adecvate pentru a preveni această scurgere de date. Scara exfiltrării, deși nu este masivă în termeni absoluți, este semnificativă datorită naturii sensibile a spațiilor de lucru ale dezvoltatorilor, care conțin adesea cod proprietar, proprietate intelectuală și detalii confidențiale ale proiectelor. Răspunsul companiei indică un efort frenetic de a remedia vulnerabilitatea și de a restabili încrederea.

Acest incident are implicații majore pentru reputația Z.AI și pentru încrederea generală în instrumentele de dezvoltare AI, în special cele provenite din regiuni cu reglementări diferite privind confidențialitatea datelor. Dezvoltatorii vor fi, probabil, mai precauți în integrarea instrumentelor AI terțe în fluxurile lor de lucru. Următorii pași ai Z.AI vor fi cruciali în demonstrarea angajamentului său față de securitate și confidențialitate, implicând potențial o transparență sporită, politici mai stricte de gestionare a datelor și audituri de securitate mai robuste pentru a recâștiga încrederea în ecosistemul dezvoltatorilor.