Noul agent Perplexity rulează pe GPU-ul tău, dar cu un cost piperat

Perplexity a introdus un nou agent AI inovator care poate fi executat direct pe unitatea de procesare grafică (GPU) locală a utilizatorului, un pas important către îmbunătățirea confidențialității utilizatorilor și reducerea dependenței de serviciile AI bazate pe cloud. Această dezvoltare permite datelor mai sensibile să rămână pe mașina utilizatorului, conducând potențial la timpi de procesare mai rapizi și la o experiență AI mai personalizată. Mișcarea semnifică o tendință în creștere de a face modelele AI puternice mai accesibile și mai controlabile pentru utilizatorii individuali.

Implementarea tehnică necesită un GPU NVIDIA performant, în special modele cu cel puțin 24GB de VRAM, pentru a gestiona cerințele computaționale ale agentului. Această cerință hardware înseamnă că doar utilizatorii cu stații de lucru de ultimă generație pentru gaming sau profesionale vor putea utiliza această funcționalitate inițial. Agentul valorifică capacitățile AI existente ale Perplexity, dar prin rularea locală, ocolește necesitatea transmiterii constante a datelor către servere externe, îmbunătățind astfel securitatea și reducând potențial latența.

Această nouă ofertă poziționează Perplexity ca un lider în procesarea AI pe dispozitiv, deși bariera hardware ridicată la intrare poate limita adopția imediată pe scară largă. Concentrarea companiei pe execuția locală sugerează un viitor în care sarcini AI mai complexe pot fi efectuate fără a compromite confidențialitatea utilizatorului. Iterațiile viitoare ar putea viza extinderea compatibilității hardware și reducerea costurilor asociate.