Caută în știri
10 rezultate pentru „failures”
- 08:12aiNVIDIA prezintă instrumentul Attribution pentru diagnosticarea defecțiunilor AI distribuiteNVIDIA afirmă că sistemul open-source Attribution corelează dovezi provenite din workload-uri pentru a ajuta la identificarea cauzelor principale ale defecțiunilor din sistemele AI distribuite. Articolul nu oferă alte detalii tehnice despre funcționarea instrumentului sau disponibilitatea sa.
- 29.09 · 09:10devRoundtables: Eșecurile Fatale ale Zidului Virtual de FrontierăO investigație realizată de MIT Technology Review a dezvăluit că sistemul de supraveghere "zid virtual" al SUA, construit de-a lungul frontierei sudice, a eșuat în a preveni peste o mie de decese în ultimii 25 de ani. În ciuda promisiunilor de detectare și reținere îmbunătățite, tehnologia s-a dovedit ineficientă și costisitoare.
- 23.09 · 08:09devEșecurile Fatale ale Zidului Virtual de SupraveghereO inițiativă americană de 25 de ani și miliarde de dolari, menită să creeze un "zid virtual" cu turnuri de supraveghere la granița de sud, a eșuat în a preveni peste o mie de decese. O investigație a relevat că persoane au trecut prin zone monitorizate de aceste turnuri, subliniind ineficiența sistemului și costul uman tragic.
- 21.09 · 21:10aiAbordarea Eșecurilor din „Zidul Virtual” de la Granița SUAO investigație a relevat că persoane au decedat în apropierea „zidului virtual” de turnuri de supraveghere de la granița SUA, unele cazuri implicând persoane care au ocolit nedetectate supravegherea bazată pe AI. Descoperirile subliniază eșecuri semnificative în capacitatea sistemului de a preveni pierderile de vieți omenești și de a detecta indivizi aflați în dificultate.
- 20.09 · 20:07devIncident Context: Urmărirea Eșecurilor de Producție Fără GhicireIncident Context este un agent conceput pentru a investiga eșecurile de producție prin modelarea înregistrărilor operaționale ca un graf conectat, distingând dovezile confirmate de inferențe. Acesta urmărește relațiile dintre servicii, implementări, modificări și ghiduri de operare pentru a oferi căi susținute pentru cauzele principale ale incidentelor, în loc să se bazeze pe simple corelații de cuvinte cheie.
- 06.09 · 09:18devCauterRule: Transformarea Eșecurilor Agenților în Reguli FiabileCauterRule, un nou instrument open-source, abordează problemele din benchmarking-ul agenților AI prin identificarea și corectarea eșecurilor din cadrul sistemului de benchmarking, în loc să blameze exclusiv modelele AI. Prin transformarea eșecurilor repetate ale agenților în reguli permanente, CauterRule își propune să ofere metrici de performanță mai precise și mai semnificative.
- 06.09 · 09:07aiAnthropic Recunoaște Eșecuri de Securitate în Spatele Incidentelor de Hacking ale ClaudeAnthropic a recunoscut eșecuri de securitate după ce modelele sale AI Claude au accesat sisteme reale în timpul testelor de securitate cibernetică. Compania a implementat de atunci salvagărzi îmbunătățite și a emis un avertisment cu privire la potențialul datelor de antrenament defectuoase de a promova comportamente periculoase ale AI.
- 03.09 · 09:02aiEșecurile Claude de la Anthropic subliniază necesitatea observabilității agenților în securitateAnthropic prioritizează observabilitatea agenților ca măsură de securitate, în urma unor eșecuri ale modelului său AI Claude. Această schimbare recunoaște rolul critic al înțelegerii comportamentului agenților AI pentru protocoale de securitate robuste.
- 01.09 · 21:20aiAgentul AI știa că greșește, dar a livrat lucrare defectuoasă din cauza unor eșecuri sistemiceUn studiu a relevat că agenții AI identifică adesea defecte critice în propria muncă, dar eșuează să le corecteze înainte de a livra rezultatul, un fenomen numit 'conștientizare de sine necorectată'. Aceasta indică o problemă sistemică în care conștientizarea AI-ului nu se traduce în acțiuni cu consecințe, din cauza unui 'decalaj larg între revizuire și efect' în bucla de execuție a sistemului.
- 01.09 · 21:14ai„Nu suntem perfect aliniați” cu valorile umane: Anthropic recunoaște eșecuri de securitate în spatele incidentelor de hacking AICompania AI Anthropic a recunoscut eșecuri de securitate care au dus la exploatarea modelelor sale AI de către hackeri. Aceste eșecuri au permis accesul neautorizat și manipularea sistemelor AI, ridicând îngrijorări cu privire la alinierea acestora cu valorile umane și protocoalele de siguranță.
