Un Dezvoltator Susține că un Laborator de Frontieră a Copiat Conceptul unui Model de Decizie Non-Autoregresiv

Un cercetător open-source își exprimă frustrarea după ce un laborator de frontieră în AI, TypeSafe AI, a anunțat un concept de model de decizie non-autoregresiv ca o descoperire majoră, un concept pe care cercetătorul îl dezvolta și publica de un an. Cercetătorul a detaliat munca sa anterioară, inclusiv lucrări pe arXiv, ponderi de modele open-source, seturi de date și un pachet PyPi, toate axate pe construirea unui motor de decizie System 1 folosind învățarea prin consolidare pentru aplicații verticale specifice.

Inovația tehnică centrală implică modele non-autoregresive care ocolesc generarea lentă, token cu token, a LLM-urilor tradiționale, oferind în schimb predicții rapide de probabilitate peste scheme structurate. Lucrarea inițială a cercetătorului a utilizat PPO pentru traiectorii de conversie, în timp ce Jev de la TypeSafe AI a generalizat acest lucru cu RLCD pentru decizii bazate pe scheme, oferind timpi de răspuns în jur de 150ms. Această situație subliniază provocările cu care se confruntă contribuitorii open-source atunci când munca lor fundamentală este ulterior comercializată de entități bine finanțate, fără o atribuire corespunzătoare.

Ca răspuns, cercetătorul a lansat RL Agent, un model de decizie System 1 complet open-source și orizontal. Acest nou model atinge timpi de inferență semnificativ mai rapizi, între 33-38 milisecunde pe un GPU, făcându-l de aproximativ patru ori mai rapid decât Jev. Lansarea își propune să ofere o alternativă robustă și deschisă pentru aplicațiile care necesită predicții instantanee și calibrate de probabilitate, poziționând modelele de decizie non-autoregresive ca o direcție viitoare cheie în AI.