Caută în știri_

1 rezultat pentru „rlhf”

• 21:02aiDe la RLHF la RLVR: Evoluția Semnalelor de Recompensă și Lupta Împotriva Exploatării RecompenselorArticolul urmărește evoluția semnalelor de recompensă în învățarea prin consolidare pentru AI, trecând de la feedback-ul uman (RLHF) la LLM-as-a-Judge și, în final, la Reinforcement Learning with Verifiable Rewards (RLVR). Se subliniază cum metodele timpurii precum RLHF au incentivat carisma în detrimentul corectitudinii, iar LLM-as-a-Judge a căzut pradă Legii lui Goodhart, ducând la dezvoltarea RLVR, care se bazează pe verificarea deterministică prin compilatoare și teste unitare.