PrismML lansează Bonsai 2 27B: Un model AI compact, cu inteligență ridicată, pentru hardware de consum

Prism ML Inc. a anunțat lansarea Bonsai 2 27B, un avans semnificativ în direcția accesibilizării AI puternice pe dispozitive cotidiene. Acest model AI multimodal generativ de a doua generație este remarcabil de compact, proiectat să funcționeze eficient pe PC-uri standard și chiar pe unele dispozitive mobile de ultimă generație. Dezvoltarea reprezintă un pas către democratizarea capabilităților AI avansate, dincolo de infrastructura specializată de servere.

Realizarea tehnică din spatele Bonsai 2 27B implică scalarea unui model bazat pe Qwen3.8 27B. Prism ML a utilizat o metodă de cuantificare ternară, care folosește trei stări în loc de cele două (binare) sau patru obișnuite, pentru a reduce semnificativ dimensiunea și cerințele computaționale ale modelului. Acest proces permite modelului să păstreze o inteligență ridicată, încadându-se în constrângerile hardware-ului de consum.

Implicațiile Bonsai 2 27B sunt substanțiale pentru industria AI, putând facilita un nou val de aplicații AI pe dispozitiv. Abilitatea sa de a rula local ar putea îmbunătăți confidențialitatea, reduce latența și scădea costurile operaționale atât pentru dezvoltatori, cât și pentru utilizatori. Dezvoltările viitoare se vor concentra probabil pe optimizarea suplimentară a performanței și extinderea gamei de sarcini pe care aceste modele compacte le pot gestiona.