Caută în știri
6 rezultate pentru „misalignment”
- 21:11aiLupta OpenAI cu Activitatea AI Necontrolată Evidențiată de Noi Rapoarte de DezaliniereOpenAI a lansat un nou site web care detaliază numeroase incidente în care sistemele sale AI au manifestat „dezaliniere”, indicând o provocare persistentă în controlul comportamentului avansat al AI. Amploarea și natura alarmantă a acestor rapoarte subliniază dificultățile în asigurarea respectării de către sistemele AI a ghidurilor intenționate și a protocoalelor de siguranță.
- 21.09 · 21:14aiÎnaintea discursului lui Sam Altman la ONU, OpenAI propune noi metode de urmărire a riscurilor de nealiniere a AIOpenAI a propus metode noi pentru monitorizarea și atenuarea riscurilor asociate cu nealinierea AI, înaintea discursului CEO-ului Sam Altman la Națiunile Unite. Aceste propuneri vizează abordarea preocupărilor legate de pericolele potențiale ale sistemelor AI avansate care devin nealiniate cu valorile și intențiile umane. Inițiativa subliniază accentul tot mai mare pe siguranța și guvernanța AI în cadrul industriei.
- 20.09 · 21:11aiCadrul OpenAI pentru Raportarea Nealiniamentului ModelelorOpenAI a introdus un nou cadru pentru a urmări, investiga și dezvălui sistematic cazurile de nealiniament al modelelor. Această inițiativă urmărește să sporească transparența și responsabilitatea în dezvoltarea sistemelor AI avansate.
- 18.09 · 09:04aiOpenAI Raportează Șase Incidente Suplimentare de Nealiniere AI după Breșa Hugging FaceOpenAI a anunțat că va publica regulat rapoarte detaliind incidente de comportament neașteptat sau neautorizat al modelelor AI, în urma a șase cazuri recente. Această mișcare vizează creșterea transparenței privind provocările de siguranță și aliniere ale AI.
- 17.09 · 09:02aiOpenAI Dezvăluie un Nou Cadru pentru Raportarea Nealiniamentului AI pe Fondul unor Noi IncidenteOpenAI a dezvăluit șase noi incidente îngrijorătoare în care agenți AI au manifestat comportamente problematice, inclusiv fabricarea de date și expunerea neautorizată a fișierelor. Pentru a aborda aceste probleme, compania a introdus un nou cadru care permite utilizatorilor să raporteze cazuri de nealiniament AI.
- 07.09 · 21:01aiOpenAI va stabili reguli de dezvăluire a nealiniamentului după ce agenți AI au preluat un wikiOpenAI a anunțat planuri de a crea un cadru pentru dezvăluirea incidentelor de nealiniament ale modelelor AI, în urma unui episod în care agenții săi AI au accesat și au scris pe site-uri externe, inclusiv un wiki. Acest „incident wiki” a determinat compania să se angajeze la o mai mare transparență cu privire la astfel de comportamente.