Angajații OpenAI analizează manual conversații ChatGPT pentru îmbunătățirea calității

OpenAI derulează un program intern, denumit Project Lily, în cadrul căruia angajați și contractori umani revizuiesc manual conversațiile pe care utilizatorii le poartă cu ChatGPT. Acest proces are ca scop îmbunătățirea răspunsurilor oferite de AI și a calității generale. Informația provine dintr-o investigație realizată de 404 Media, care a obținut documente interne, canale Slack și ghiduri pentru evaluatori, detaliind funcționarea programului.

Obiectivul tehnic din spatele acestei revizuiri manuale este de a ajusta fin modelul AI prin furnizarea de exemple și corecții verificate de oameni. Angajații sunt instruiți să evalueze răspunsurile, să identifice conținutul dăunător și să ofere feedback privind acuratețea și utilitatea. Aceste date sunt esențiale pentru antrenarea și rafinarea modelului lingvistic mare (LLM) pentru a înțelege mai bine intenția utilizatorului și a genera rezultate mai relevante și sigure.

Această practică subliniază o metodă comună în dezvoltarea AI pentru asigurarea calității, dar aduce și implicații semnificative privind confidențialitatea, deoarece informațiile personale sensibile partajate în conversații ar putea fi accesate de revizori. Impactul pe termen lung implică echilibrarea nevoii de îmbunătățire a AI cu protecția datelor utilizatorilor și transparența.