Caută în știri
5 rezultate pentru „prompt injection”
- 08:13hardwareAvocați brazilieni prinși încercând să manipuleze AI-ul instanței prin prompt injection ascunsAvocații unui reclamant dintr-un proces de muncă din Brazilia ar fi ascuns un prompt injection într-un document depus la instanță, încercând să influențeze AI-ul acesteia. Tentativa a fost descoperită, iar reclamantul a câștigat oricum deoarece pârâtul nu a răspuns.
- 14.10 · 09:01aiGoogle Detaliază Controalele de Securitate pentru Lansarea Gemini 4 ArgonGoogle a detaliat măsurile de siguranță și securitate implementate pentru modelul său Gemini 4 Argon. Această lansare extinde accesul la AI, incluzând apărări îmbunătățite împotriva amenințărilor cibernetice și a atacurilor de tip prompt injection.
- 29.09 · 09:10aiOpenAI expune o nouă varietate de prompt injection capabilă de auto-propagareOpenAI a detaliat o tehnică nouă de prompt injection care se poate răspândi autonom, similar viermilor informatici. Această vulnerabilitate prezintă un risc de securitate semnificativ, deoarece ar putea permite prompturilor malițioase să se replice și să infecteze alte sisteme fără intervenția directă a utilizatorului.
- 08.09 · 09:11devKeyclasp: Permite agenților să folosească token-uri fără a le include în prompt-uriKeyclasp este un nou instrument open-source conceput pentru a gestiona în siguranță credențialele pentru agenții de codare locali, prevenind expunerea token-urilor sensibile în prompt-uri sau în ieșire. Acesta stochează secretele într-un seif local criptat și le injectează în procesele copil prin variabile de mediu, oferind o alternativă la gestionarea manuală a credențialelor și la wrapper-ele CLI personalizate.
- 05.09 · 09:08devDetectorul Microsoft pentru Prompt Injection a Descoperit o Campanie de PhishingMicrosoft a dezvoltat un detector pentru vulnerabilitățile de prompt injection în sistemele AI, dar în schimb a descoperit o campanie de phishing sofisticată. Atacatorii au exploatat o metodă de încorporare a textului invizibil în prompturi pentru a înșela modelele AI și, potențial, utilizatorii.
