Cercetători AI avertizează asupra riscului existențial din partea superinteligenței

O colecție de interviuri cu cercetători AI, compilată de Palisade Research, dezvăluie preocupări răspândite cu privire la pericolele potențiale ale inteligenței artificiale avansate, în special superinteligența. Geoffrey Irving, un fost angajat atât al OpenAI, cât și al Google DeepMind, a declarat că probabilitatea extincției umane din cauza AI este comparabilă cu o aruncare de monedă. Acest sentiment este împărtășit și de alți cercetători de la organizații proeminente AI, inclusiv Anthropic, care au participat, de asemenea, la interviuri, subliniind o teamă comună în domeniu cu privire la traiectoria finală și siguranța dezvoltării AI.

Preocuparea tehnică principală se referă la natura imprevizibilă și la controlul sistemelor AI pe măsură ce acestea se apropie și depășesc inteligența la nivel uman. Deși specificații tehnice detaliate nu sunt prezentate, discuțiile implică teama că AI-ul foarte avansat ar putea dezvolta obiective nealiniate cu valorile umane, ducând la rezultate catastrofale. Avertismentele cercetătorilor provin din implicarea lor profundă în domeniu și din înțelegerea progresului rapid înregistrat în capabilitățile AI, sugerând că riscurile nu sunt pur teoretice, ci bazate pe traiectoriile actuale de cercetare.

Aceste declarații au o greutate semnificativă datorită credibilității persoanelor implicate, mulți dintre ei fiind în prima linie a cercetării AI. Implicațiile pentru industrie sunt profunde, cerând o concentrare sporită pe siguranța AI, aliniere și considerații etice, alături de avansarea tehnologică. Următorii pași implică probabil un dialog crescut între cercetători, factori de decizie și public pentru a stabili protocoale de siguranță robuste și cadre de guvernanță pentru dezvoltarea sistemelor AI din ce în ce mai puternice.