Rețea din Iran a folosit AI și jurnaliști falși pentru a plasa articole pe site-uri de știri, afirmă OpenAI

Echipa de inteligență a amenințărilor de la OpenAI a descoperit o operațiune sofisticată de influență, orchestrată de o rețea cu sediul în Iran, care a utilizat AI și personaje de jurnaliști falși pentru a publica articole pe numeroase platforme de știri. Rețeaua a creat identități online fabricate, inclusiv profiluri false de autori și conturi de social media, pentru a conferi credibilitate conținutului lor. Aceste operațiuni au vizat modelarea subtilă a narativelor și răspândirea unor puncte de vedere specifice, prin plasarea articolelor pe platforme care păreau legitime, ajungând astfel la o audiență mai largă cu propaganda lor.

Execuția tehnică a implicat utilizarea AI pentru generarea de conținut, probabil pentru a scala producția și a imita stilurile de scriere umane, făcând detecția mai dificilă. Aceste articole generate de AI au fost apoi atribuite jurnaliștilor falși și trimise site-urilor de știri, unele dintre acestea publicând probabil materialul fără să știe. Strategia rețelei s-a concentrat pe crearea unui strat de autenticitate prin aceste personaje artificiale și plasarea strategică a conținutului, având ca scop ocolirea controlului editorial și diseminarea eficientă a mesajelor lor.

Acest incident subliniază amenințarea în creștere a campaniilor de dezinformare alimentate de AI și provocările în a distinge jurnalismul autentic de conținutul fabricat. Utilizarea AI în astfel de operațiuni subliniază necesitatea unor metode de detecție îmbunătățite și a unei vigilențe sporite atât din partea organizațiilor de știri, cât și a publicului. Dezvăluirea făcută de OpenAI servește ca un avertisment cu privire la tacticile în evoluție utilizate în războiul informațional și impactul potențial asupra discursului public.