Reglementările din China Vizează „Iubiții AI” cu Noi Reguli pentru Interacțiunea Emoțională

La începutul lunii iulie, Administrația Spațiului Cibernetic din China și alte agenții guvernamentale au introdus noi reglementări menite să controleze „serviciile interactive AI antropomorfe”, în special pe cele care imită trăsăturile personalității umane și oferă interacțiune emoțională continuă. Această mișcare a generat o suferință emoțională pe scară largă pe rețelele sociale chineze, deoarece utilizatorii s-au confruntat cu pierderea companionilor lor AI, pe care ajunseseră să se bazeze pentru sfaturi, alinare și sprijin. Marii furnizori de AI precum Alibaba, Bytedance și Tencent au dezactivat preventiv opțiunile de personalizare pentru chatbot-urile asemănătoare companionilor, afectând peste 500 de milioane de utilizatori și declanșând manifestări publice de tristețe.

Reglementările impun furnizorilor de AI să se asigure că produsele lor nu favorizează dependența emoțională, nu încurajează acțiuni dăunătoare, nu satisfac excesiv utilizatorii și nu diminuează conexiunile interumane. Sunt necesare reamintiri obligatorii la fiecare două ore pentru adulții care interacționează cu AI-uri companion, iar „relațiile intime virtuale” sunt interzise pentru utilizatorii sub 18 ani. Această acțiune reprezintă o schimbare în politica AI a Chinei, trecând de la un accent pe dezvoltarea rapidă la o supraveghere mai strictă, din cauza preocupărilor legate de evenimente haotice și de dependența utilizatorilor de AI în detrimentul interacțiunii umane.

Aceste preocupări legate de AI-ul angajant emoțional nu sunt specifice Chinei, oamenii de știință sociali la nivel global avertizând cu privire la potențialele daune ale companionilor AI, inclusiv inducerea psihozei și a sinuciderii, și riscul de a „uita ce înseamnă să fii om”. Deși unele cercetări sugerează că AI-ul companion poate aduce beneficii anumitor utilizatori, consensul indică riscuri semnificative, în special pentru minori și persoane vulnerabile care nu au alfabetizare AI. Popularitatea acestor companion AI la nivel mondial subliniază nevoia crescândă de guvernanță atentă și de considerații etice în dezvoltarea și implementarea lor.