Caută în știri_

3 rezultate pentru „consumer hardware”

• 09:05hardwareRTX 4090 Atinge 100 Trilioane Token-uri/Secundă pentru AI, Redefinind Granița dintre Hardware Consumer și EnterpriseUn singur GPU NVIDIA RTX 4090 poate procesa acum un model AI cu 125 miliarde de parametri la aproximativ 100 trilioane token-uri pe secundă, o performanță ce anterior necesita hardware enterprise de înaltă performanță precum clustere H100. Acest avans este realizat printr-o combinație de optimizări software, inclusiv kernel-uri GEMM low-rank FP8, cuantificare pe 4 biți, decodare speculativă și compresie agresivă a KV-cache-ului, permițând plăcii de consum să depășească 100 T/s în limita sa de 24 GB VRAM și 350 W.
• 19.09 · 21:00aiPrismML lansează Bonsai 2 27B: Un model AI compact, cu inteligență ridicată, pentru hardware de consumPrism ML Inc. a lansat Bonsai 2 27B, un model AI multimodal generativ de a doua generație, conceput pentru a rula pe hardware de consum, precum PC-uri și dispozitive mobile de ultimă generație. Acest model compact a fost realizat prin scalarea unui model bazat pe Qwen3.8 27B, utilizând o abordare ternară.
• 08.09 · 21:26devExpansiunea Nvidia pe Multiple Fronturi: De la Platforme Open-Source la Desktopuri ConsumerNvidia își extinde prezența în diverse domenii de calcul, de la platforme AI open-source la hardware pentru desktopuri consumer. Această strategie pe multiple fronturi urmărește să-i consolideze dominația atât în sectorul tehnologiei profesionale, cât și în cel personal.