Caută în știri
4 rezultate pentru „adversarial ai”
- 20:13aiExperții sunt îngrijorați de interdicția Anthropic de a fi răutăcios cu Claude: 'Unul dintre cele mai periculoase lucruri pe care le-am putea face'Experții în siguranța AI își exprimă îngrijorarea cu privire la politica Anthropic care interzice utilizatorilor să fie 'răutăcioși' cu chatbot-ul Claude, temându-se că acest lucru ar putea împiedica cercetarea în domeniul alinierii și siguranței AI. Ei susțin că studierea modului în care modelele AI reacționează la intrări adversariale este crucială pentru înțelegerea și atenuarea riscurilor potențiale.
- 30.09 · 21:20aiOpenAI A Dezactivat o Campanie Coordonată de Distilare a ModelelorOpenAI a dezactivat cu succes o campanie coordonată ce viza extragerea raționamentului protejat al modelelor sale AI. Această acțiune subliniază eforturile continue de a proteja tehnologiile AI proprietare împotriva atacurilor adversariale.
- 16.09 · 20:01roboticsRegândirea siguranței roboților în era AIArticolul discută provocările în evoluție ale siguranței roboților pe măsură ce integrarea AI se aprofundează, trecând dincolo de evaluările tradiționale bazate pe defecțiuni pentru a aborda manipularea adversarială a sistemelor AI. Acesta subliniază cum atacatorii pot modifica comportamentul roboților prin compromiterea datelor senzorilor, a modelelor AI sau a infrastructurii sistemului, chiar și atunci când nu apare nicio defecțiune aparentă.
- 14.09 · 21:11aiModa Adversarială Contestă Normele de Supraveghere AIO mișcare în creștere dezvoltă 'modă adversarială' concepută pentru a evita camerele de supraveghere bazate pe AI, folosind modele care induc în eroare sistemele de detecție a obiectelor. Acest trend oferă o modalitate tangibilă prin care indivizii pot lupta împotriva colectării masive de date și a preocupărilor legate de confidențialitate.