Furtul Metode de Raționament AI din API-uri LLM Proprietare

O lucrare de cercetare recentă intitulată "Stealing Reasoning Traces from Proprietary LLM APIs" detaliază o vulnerabilitate arhitecturală semnificativă care afectează marii furnizori de modele lingvistice mari (LLM), precum Anthropic, OpenAI și Google. Acești furnizori încearcă să protejeze procesele de raționament pas cu pas ale modelelor lor, cunoscute sub numele de chain-of-thought, prin criptarea acestor urme și returnarea lor către client. Nucleul vulnerabilității descoperite constă în faptul că aceste blocuri criptate sunt complet compatibile și interschimbabile între diferite sesiuni, utilizatori și chiar modele din ecosistemul aceluiași furnizor.

Această compatibilitate permite un jailbreak de decriptare scalabil. Atacatorii pot injecta o urmă de raționament criptată de la un model specific într-un model mai slab și mai puțin protejat de la același furnizor. Modelul mai slab este apoi forțat să decodeze și să afișeze urma în text simplu, dezvăluind efectiv raționamentul proprietar fără a compromite direct modelul mai capabil. Această metodă ocolește mecanismele anti-distilare și a fost demonstrată pe mai mulți furnizori de LLM de top, permițând adversarilor să extragă proprietate intelectuală valoroasă.

Implicațiile acestei vulnerabilități sunt de anvergură, extinzându-se dincolo de furtul de proprietate intelectuală. Facilitează extragerea de date private la scară largă prin decodarea blocurilor de raționament extrase din depozite publice, dezvăluind potențial informații de identificare personală (PII) și credențiale. Mai mult, poate expune informații periculoase ascunse în procesul de raționament, chiar dacă rezultatul final este sigur, și permite injecții de prompt invizibile pentru otrăvirea sistemelor agentice. Cercetătorii propun mitigări criptografice și la nivel de sistem pentru a aborda aceste preocupări de securitate.