ai · · 20:12 · 1 min de citit
Anthropic avertizează că este aproape de auto-îmbunătățirea recursivă
Articolul afirmă că Anthropic a avertizat că AI s-ar putea apropia de auto-îmbunătățirea recursivă, în care sistemele devin suficient de capabile pentru a-și îmbunătăți propriul proces de antrenare. Textul explică de ce unii dintre cei îngrijorați de riscurile AI consideră că acest lucru ar putea accelera rapid dezvoltarea capabilităților.
Anthropic ar fi avertizat că sistemele AI s-ar putea apropia de auto-îmbunătățirea recursivă, cunoscută și ca RSI. Articolul definește RSI drept punctul în care AI devine suficient de capabilă pentru a-și îmbunătăți propriul proces de antrenare. Posibilitatea contează deoarece ciclurile repetate de auto-îmbunătățire ar putea, în principiu, să accelereze dezvoltarea capabilităților AI.
Textul furnizat nu prezintă dovezi tehnice, nume de modele, termene, rezultate de benchmark sau capabilități concrete care să susțină avertismentul. Oferă doar o explicație succintă a RSI și nu descrie cum ar efectua sau valida un sistem AI schimbările aduse propriului proces de antrenare. Mai afirmă că unii oameni foarte preocupați de riscurile AI consideră RSI un prag catastrofal, fără să detalieze argumentele acestora.
Afirmația ridică întrebări despre modul în care cercetătorii evaluează progresul către sisteme capabile să contribuie la propria dezvoltare și despre măsurile de protecție care ar putea fi necesare. Totuși, informațiile limitate din articol nu stabilesc cât de aproape sunt astfel de sisteme și nici pe ce se bazează avertismentul Anthropic.
$ sursa --originală
techcrunch.com
Rezumat realizat de Sudofeed pe baza articolului original. Drepturile asupra conținutului aparțin sursei originale.