Despre previzualizarea Mythos de la Anthropic și Proiectul Glasswing
Noul model al Anthropic, Claude Mythos Preview, și impactul său potențial asupra securității cibernetice sunt în centrul atenției articolului. Compania nu îl lansează publicului din cauza capacităților sale de atac cibernetic, dar a lansat Proiectul Glasswing pentru a identifica și remedia vulnerabilitățile înainte de a putea fi exploatate.
Rezumat Detaliat
Modelul Claude Mythos Preview al Anthropic generează un interes semnificativ în industria de securitate cibernetică datorită capacităților sale avansate de atac cibernetic. Compania nu lansează modelul publicului, invocând preocupări de securitate și a inițiat Proiectul Glasswing pentru a identifica și remedia în mod proactiv vulnerabilitățile din diverse aplicații software. Această inițiativă vizează atenuarea riscurilor potențiale înainte ca actorii rău intenționați să poată exploata capacitățile modelului.
Detaliile tehnice dezvăluie că aceste modele prezintă o sofisticare sporită în capacitățile de atac cibernetic, inclusiv capacitatea de a scrie exploatări eficiente și de a identifica vulnerabilități complexe. Ele pot înlănțui erori de corupție a memoriei și pot efectua mai multe cu o singură solicitare, reducând nevoia de orchestrare extinsă. Compania de securitate Aisle a reușit să replice vulnerabilitățile pe care le-a găsit Anthropic, folosind modele publice mai vechi, mai ieftine. Cu toate acestea, există o diferență între găsirea unei vulnerabilități și transformarea acesteia într-un atac.
Articolul subliniază urgența tot mai mare de a ne pregăti pentru un viitor în care exploatările zero-day devin obișnuite, iar atacatorii posedă capacități ofensive avansate. Autorul sugerează că progresele în modelele AI, în special în contextul software-ului, vor accelera ritmul în care sunt descoperite și exploatate vulnerabilitățile. Orientarea este în mare parte corectă: trebuie să ne pregătim pentru o lume în care exploatările zero-day sunt monedă curentă și mulți atacatori au brusc capacități ofensive care depășesc cu mult abilitățile lor.
⚠️ Notă: Acesta este un rezumat generat automat. Drepturile asupra conținutului aparțin sursei originale. Citește articolul complet aici
Sursa originală
Citește articolul complet aici
Articole similare
330 Modele Lingvistice Testate pe Coreeană; Jumătate Au Eșuat în Utilizarea Alfabetului Corect
Un studiu care a evaluat 330 de modele lingvistice pentru capacitățile lor în limba coreeană a relevat că peste jumătate au eșuat în utilizarea consecventă a alfabetului corect. O funcție simplă de patru rânduri s-a dovedit extrem de eficientă în descalificarea unei porțiuni semnificative de răspunsuri incorecte, subliniind limitările modelelor actuale în gestionarea nuanțelor lingvistice.
Certinia la Dreamforce: Previziuni despre AI în Serviciile Profesionale
Evenimentul Certinia de la Dreamforce va explora evoluția AI în serviciile profesionale, trecând de la productivitatea individuală la transformarea modului în care firmele își coordonează munca și livrează valoare. Accentul va fi pus pe valorificarea inteligenței partajate pentru a îmbunătăți luarea deciziilor și rezultatele în cadrul angajamentelor, conectând datele operaționale cu contextul proiectului și cunoștințele instituționale.
Profound strânge 180 de milioane de dolari pentru a spori vizibilitatea brandurilor în servicii AI
Startup-ul de tehnologie de marketing Profound a anunțat o rundă de finanțare Seria D de 180 de milioane de dolari, atingând o evaluare de 1,8 miliarde de dolari. Investiția, co-condusă de Sequoia Capital și Kleiner Perkins, vizează să ajute companiile să-și îmbunătățească vizibilitatea în peisajul în rapidă creștere al serviciilor AI.
Startup-ul de certificare a agenților AI, AIUC, strânge 40 de milioane de dolari pentru a audita modelele de frontieră
Artificial Intelligence Underwriting Company (AIUC), o companie specializată în certificarea agenților AI, a obținut o finanțare de 40 de milioane de dolari. Acești bani vor permite extinderea serviciilor de auditare pentru a acoperi modelele AI de frontieră, nu doar agenții construiți pe acestea. AIUC consideră că incertitudinile actuale legate de riscurile AI încetinesc adopția tehnologiei.