OpenAI Suspectează un Grup Legat de China Că a Folosit Actrițe pentru a Extrage Raționamentul Modelelor

OpenAI a dezvăluit un atac cibernetic sofisticat vizând modelele sale AI, pretins orchestrat de actori asociați cu Moonshot AI, un grup din China. Campania a implicat o metodă nouă, prin care operatorii ar fi copiat raționamentul criptat al modelelor OpenAI. Aceste informații furate au fost apoi utilizate într-o interacțiune ulterioară, unde atacatorii au solicitat unui model separat să decripteze raționamentul extras, cu scopul de a descoperi logica proprietară și funcționarea internă a sistemelor AI avansate ale OpenAI.

Abordarea tehnică a implicat exploatarea capacității modelelor de a procesa și, în acest caz, de a-și dezvălui propriile procese decizionale interne, chiar dacă într-o formă criptată. Prin copierea raționamentului criptat și apoi utilizarea unui model separat pentru a efectua decriptarea, atacatorii au încercat să ocolească măsurile de securitate standard menite să protejeze proprietatea intelectuală încorporată în arhitectura AI. Acest lucru subliniază o provocare în creștere în securizarea modelelor AI complexe împotriva tentativelor adversarilor de a le ingineri invers capacitățile și cunoștințele.

Acest incident subliniază riscurile semnificative de securitate asociate cu dezvoltarea și implementarea AI avansate, în special în ceea ce privește protecția algoritmilor proprietari și a datelor de antrenament. Implicațiile se extind la industria AI în ansamblu, subliniind necesitatea unor protocoale de securitate îmbunătățite și a vigilenței împotriva actorilor adversari sponsorizați de stat sau a celor sofisticați. Eforturile viitoare se vor concentra probabil pe consolidarea metodelor de criptare pentru raționamentul modelelor și pe dezvoltarea unor apărări mai robuste împotriva unor astfel de tehnici de extracție.