O singură bază de date vectorială configurată greșit a expus datele tuturor clienților

Sistemele AI multi-tenant se confruntă cu o provocare critică de securitate în ceea ce privește bazele de date vectoriale, unde o singură neconfigurare poate expune toate datele clienților. Acest lucru se întâmplă atunci când un filtru de interogare este eliminat, permițând asistentului AI al unui chiriaș să afișeze documente confidențiale ale altuia, așa cum s-a întâmplat când o modificare de configurare a eliminat neintenționat o condiție de filtrare timp de șase ore.

Spre deosebire de bazele de date tradiționale cu control robust al accesului, bazele de date vectoriale stochează embedding-uri, care sunt reprezentări semantice ale datelor. Deși nu sunt direct lizibile, aceste embedding-uri pot fi exploatate pentru a reconstrui informații semnificative dacă izolația eșuează. Această expunere cross-tenant la nivel semantic este un risc major de securitate AI, distinct de vulnerabilitățile la nivel de model și neafectat de prompt engineering.

Izolarea chiriașilor eșuează în trei moduri principale: neconfigurarea spațiului de nume (namespace), credențiale partajate între mai multe colecții și ocolirea filtrelor de metadate. Atacurile de tip prompt injection pot agrava aceste probleme prin manipularea interogărilor de recuperare pentru a accesa date din spațiile de nume ale altor chiriași, subliniind necesitatea unor controale de securitate stratificate, inclusiv confidențialitate, atenuarea prompt injection și controlul accesului multi-tenant.