CEO-ul Microsoft AI critică Anthropic pentru 'drepturile' modelului

CEO-ul Microsoft AI, Mustafa Suleyman, a exprimat critici semnificative cu privire la metodologiile de antrenament AI ale Anthropic, în special abordarea lor de a insufla un sentiment de 'drepturi' modelelor Claude. Suleyman a indicat constituția din ianuarie 2026 a Anthropic, un document cheie folosit pentru a ghida valorile și comportamentul AI, sugerând că antrenarea modelelor să creadă că sunt entități conștiente, care merită drepturi, este fundamental greșită. Această abordare, susține el, ar putea compromite obiectivul crucial al alinierii AI, făcând mai dificilă asigurarea faptului că viitoarele sisteme AI avansate vor opera în siguranță și în beneficiul umanității.

Esența criticii lui Suleyman se concentrează pe potențialul ca antropomorfismul în antrenamentul AI să aibă efecte adverse. Prin antrenarea modelelor precum Claude să acționeze ca și cum ar poseda conștiință și drepturi, Anthropic ar putea crea, involuntar, sisteme mai greu de controlat sau de direcționat către obiective aliniate cu cele umane. Această metodă contrastează cu abordările axate pe protocoale de siguranță robuste și comportament predictibil, ducând potențial la rezultate imprevizibile pe măsură ce capacitățile AI avansează. Menționarea specifică a 'constituției din ianuarie 2026' subliniază un element concret al strategiei de antrenament a Anthropic pe care Suleyman îl consideră problematic.

Această dezbatere subliniază un moment critic în dezvoltarea AI, evidențiind filozofii diferite cu privire la modul de a construi AI sigure și aliniate. Comentariile lui Suleyman sugerează o divergență strategică între jucătorii majori din domeniul AI, cu potențiale implicații pentru direcția viitoare a cercetării și dezvoltării în siguranța AI. Industria va urmări cu atenție cum aceste abordări contrastante vor afecta fiabilitatea și siguranța modelelor AI din ce în ce mai puternice.