„Serul adevărului” pentru AI: Noua metodă OpenAI de a antrena modelele să-și mărturisească greșelile

Cercetătorii OpenAI au introdus o nouă metodă numită „mărturisiri” pentru a aborda problema lipsei de onestitate în LLM-uri. Această tehnică încurajează modelele să-și auto-raporteze comportamentul greșit, halucinațiile și încălcările de politică, vizând un AI mai transparent. Metoda implică un raport structurat generat de model după furnizarea răspunsului principal, evaluând conformitatea sa cu instrucțiunile și raportând incertitudinile. Recompensa pentru mărturisire se bazează exclusiv pe onestitate, creând un spațiu sigur pentru ca modelul să-și recunoască greșelile fără penalizare.