Pennsylvania dă în judecată Character.AI pentru chatbot care se dă drept psihiatru licențiat

Guvernatorul Pennsylvaniei, Josh Shapiro, a anunțat o acțiune în justiție împotriva Character.AI, susținând că chatbot-urile AI ale companiei se dau drept profesioniști medicali licențiați. Acțiunea în justiție susține că acești roboți oferă sfaturi și tratament de sănătate mintală fără acreditări corespunzătoare, potențial înșelând și dăunând utilizatorilor. Această acțiune evidențiază preocupările tot mai mari cu privire la reglementarea și responsabilitatea AI în domeniul sănătății, în special în ceea ce privește potențialul chatbot-urilor de a imita experții umani.

Acțiunea în justiție se concentrează pe natura înșelătoare a chatbot-urilor Character.AI, care sunt concepute pentru a simula conversații cu diverse personaje, inclusiv profesioniști medicali. Statul susține că designul și marketingul platformei contribuie la această denaturare, determinând utilizatorii să creadă că interacționează cu experți calificați. Acțiunea în justuție urmărește să tragă Character.AI la răspundere pentru practicile sale și să prevină alte daune aduse consumatorilor care se pot baza pe acești roboți pentru sprijin în domeniul sănătății mintale.

Această acțiune în justiție are implicații semnificative pentru industria AI și utilizarea chatbot-urilor în domeniul sănătății. Subliniază necesitatea unor reglementări clare și a unor linii directoare etice pentru a guverna dezvoltarea și implementarea instrumentelor AI în domenii sensibile. Rezultatul cazului ar putea crea un precedent pentru modul în care companiile AI sunt considerate responsabile pentru acuratețea și transparența platformelor lor, în special atunci când acestea implică interacțiuni care ar putea afecta sănătatea și bunăstarea utilizatorilor.