Sipeed introduce o placă RISC-V compactă cu 32GB LPDDR5 și un NPU de 60 TOPS care atinge 15 tokens/s pe LLM-urile AI Qwen-3.5 35B

Sipeed a introdus o nouă placă RISC-V, care include 32GB de memorie LPDDR5 și un NPU de 60 TOPS într-un design compact. Această placă este capabilă să proceseze modele AI, atingând în mod specific o rată de 15 tokens pe secundă pe LLM-urile AI Qwen-3.5 35B. Acest progres evidențiază tendința continuă de integrare a capabilităților puternice de procesare AI în platforme hardware mai mici și mai eficiente.

Specificațiile plăcii includ un impresionant 32GB de memorie LPDDR5, care este crucială pentru gestionarea modelelor AI mari. De asemenea, dispune de un NPU de 60 TOPS, conceput pentru a accelera sarcinile de lucru AI. Abilitatea de a rula LLM-urile Qwen-3.5 35B la 15 tokens/s demonstrează eficiența plăcii în procesarea sarcinilor AI complexe. Acest factor de formă compact îl face potrivit pentru diverse aplicații, inclusiv edge computing și sisteme embedded.

Implicațiile acestei dezvoltări sunt semnificative pentru industria hardware, în special în domeniul edge AI. Capacitatea de a rula modele lingvistice mari pe hardware compact, eficient din punct de vedere energetic, deschide noi posibilități pentru aplicațiile AI on-device. Acest lucru ar putea duce la progrese în domenii precum robotică, IoT și alte sisteme embedded care necesită capacități de procesare AI în timp real. Tendința sugerează o cerere tot mai mare de soluții hardware compacte, de înaltă performanță pentru a sprijini adoptarea tot mai mare a AI în diverse sectoare.