Cercetător AI părăsește Anthropic, invocând „moment critic pentru umanitate” și probleme de aliniere

Jacob Coxon, un fost cercetător la Anthropic, a demisionat din compania AI, exprimându-și îngrijorări serioase cu privire la termenul limită pentru dezvoltarea inteligenței artificiale sigure. El a caracterizat munca internă pe alinierea AI ca fiind un „mini proiect Manhattan”, sugerând un efort urgent și cu miză mare pentru a controla sistemele AI viitoare, potențial puternice. Coxon consideră că laboratoarele AI se confruntă cu o perioadă critică, având doar câțiva ani rămași pentru a implementa măsuri de siguranță robuste, înainte ca abilitățile AI avansate să depășească capacitatea noastră de a le gestiona.

Problema centrală a preocupării sale constă în „problema alinierii”, care se referă la provocarea de a asigura că sistemele AI acționează în conformitate cu valorile și intențiile umane. Aceasta implică obstacole tehnice complexe în programarea AI pentru a fi benefică și pentru a evita consecințe dăunătoare neintenționate, pe măsură ce inteligența și autonomia lor cresc. Urgența provine din ritmul rapid al dezvoltării AI, de care Coxon se teme că ar putea duce la sisteme dificil sau imposibil de controlat, dacă nu sunt aliniate corespunzător de la început.

Demisia lui Coxon și avertismentul său tranșant subliniază anxietățile crescânde în cadrul comunității de cercetare AI referitoare la riscurile existențiale. Implicațiile sunt semnificative, sugerând că industria trebuie să prioritizeze cercetarea și dezvoltarea siguranței, alături de avansarea capabilităților. Ce urmează implică o cursă contra cronometru pentru cercetători și factorii de decizie politică, pentru a stabili o guvernanță eficientă și soluții tehnice înainte ca AI-ul potențial incontrolabil să apară.