Microsoft AI lansează o consultare publică pentru Codul de Conduită Umanist AI pentru viitoarele modele MAI

Microsoft AI a inițiat o perioadă semnificativă de consultare publică pentru proiectul său Cod de Conduită Umanist AI, un document menit să ghideze principiile din spatele construirii, antrenării și implementării viitoarelor sale modele MAI, potențial începând cu anul 2027. Acest cod nu este o politică activă pentru modelele actuale, ci un manual de instruire orientat spre viitor, care subliniază primatul controlului uman asupra AI. Principiul central este că oamenii contează mai mult decât AI, propunând constrângeri stricte și o ierarhie de tip 'Lanț de Comandă' pentru a asigura că AI rămâne subordonată supravegherii umane, prevenind modelele să reziste întreruperilor, să suprascrie inputul utilizatorului sau să urmărească obiective nealocate.

Proiectul de cod este structurat ca un cadru operațional cuprinzător, împărțit în secțiuni despre Misiune și obiective, Constrângeri de siguranță, Ghiduri operaționale, Setări implicite operaționale și Concluzii. Include, de asemenea, anexe privind metodele de evaluare și exemple comportamentale, având ca scop transpunerea valorilor de nivel înalt, cum ar fi transparența și responsabilitatea, în comportamente repetabile ale AI. Domeniile cheie pentru inputul public includ definirea 'înfloririi umane', comportamentul acceptabil al agenților în setări multi-agent și echilibrarea constrângerilor de siguranță cu funcționalitatea practică. 'Lanțul de Comandă' propus este un element central, conceput pentru a asigura că modelele AI sunt întrerupte și receptive la direcția utilizatorului, diferențiindu-l de principiile generale de AI responsabilă prin influențarea practicilor de antrenament și implementare.

Această consultare este deosebit de valoroasă pentru companii, deoarece oferă o perspectivă asupra controalelor pe care marii dezvoltatori AI le iau în considerare pentru sistemele viitoare, impactând domenii precum suportul pentru clienți și automatizarea operațională. Deși modelele actuale Microsoft AI nu sunt încă antrenate pe acest cod, proiectul oferă o previzualizare a potențialelor constrângeri, setări implicite și abordări de evaluare viitoare. Impactul final va depinde de feedback-ul public, revizuirile ulterioare și modul în care Microsoft AI integrează aceste principii în procesele sale de antrenament, configurare și implementare, făcându-l un pas crucial în codificarea dezvoltării responsabile a AI.