Caută în știri_

10 rezultate pentru „llama”

• 08:11aiAnthropic raportează progrese în verificarea formală a inferenței pentru modelele lingvistice mariAnthropic afirmă că sistemul FlashProve poate genera dovezi pentru Llama 4 Maverick cu aproximativ 110 de tokeni pe secundă pe un singur GPU H100. Relatarea nu oferă detalii suplimentare despre metoda de demonstrare sau despre limitările acesteia.
  
• 12.10 · 21:12devGitHub Copilot CLI Îmbunătățește Descoperirea Modelelor Ollama Fără a Întrerupe SesiunileGitHub Copilot CLI a fost actualizat pentru a permite utilizatorilor să descopere modele Ollama fără a deconecta sesiunea curentă. Această îmbunătățire eficientizează fluxul de lucru pentru dezvoltatorii care integrează modele AI locale în operațiunile lor din linia de comandă.
• 11.10 · 21:07aiMalware de cryptomining a folosit poezie pentru a infecta peste 3.400 de servereCercetătorii de la Black Lotus Labs de la Lumen au identificat un nou malware de cryptomining numit PoeLLM, care a infectat cu succes peste 3.400 de servere. Malware-ul vizează în principal instrumente AI expuse, inclusiv platforme populare precum LiteLLM și Ollama.
• 10.10 · 09:24aiAWS, Upstage și Ollama Standardizează API-ul pentru Modele de Decizie, OpenAI RefuzăAWS, Upstage și Ollama au convenit asupra unui nou standard API pentru modelele de decizie, cu scopul de a simplifica integrarea și interoperabilitatea. OpenAI nu s-a alăturat încă acestei inițiative, lăsând un gol în adoptarea largă în industrie.
• 09.10 · 09:13hardwarePeretele VRAM: NVIDIA H200 vs. AMD MI325X pentru LLM-uri MasiveImplementarea modelelor lingvistice mari (LLM) precum Llama 4 sau DeepSeek se confruntă cu blocaje hardware legate în principal de capacitatea și lățimea de bandă a memoriei, nu doar de puterea brută de calcul. Acest articol compară GPU-urile NVIDIA H200 și AMD MI325X, detaliind specificațiile lor și implicațiile pentru gestionarea modelelor masive.
• 28.09 · 21:14aiMeta angajează CEO-ul MongoDB pentru a conduce afacerea AI enterprise, modelul Llama lipseșteMeta înființează o nouă afacere enterprise axată pe modelele și agenții săi AI, numind fostul CEO al MongoDB să conducă această inițiativă. În mod notabil, modelele emblematice Llama ale companiei nu sunt menționate ca parte a acestei noi direcții, ridicând întrebări despre rolul lor în strategia enterprise.
• 24.09 · 21:02devRiscuri de Confidențialitate la Trimiterea Schemelor către LLM-uri Cloud Atenuate prin Generarea Locală de Date Sintetice cu OllamaDezvoltatorii se confruntă cu probleme de conformitate precum GDPR și HIPAA la utilizarea datelor de producție pentru dezvoltare, iar trimiterea schemelor către LLM-uri cloud încalcă limitele datelor. AI Synthetic Data Studio, un instrument open-source, air-gapped, generează date sintetice local folosind Ollama pentru a aborda aceste provocări legate de confidențialitate și tehnice.
• 08.09 · 21:31devFlag-ul în jurul căruia ne-am optimizat a fost ștersUn flag crucial pentru llama.cpp, -sm row, care îmbunătățea semnificativ performanța prin împărțirea tensorilor de strat pe două GPU-uri, a fost șters din versiunea principală. Acest flag era esențial pentru obținerea unui debit ridicat, dar eliminarea sa a forțat o reevaluare a strategiilor de optimizare.
• 08.09 · 21:30devNavigarea Regiunilor Amazon Bedrock pentru Fine-Tuning de Modele: Un Ghid PracticAcest articol detaliază complexitățile fine-tuning-ului modelelor de bază pe Amazon Bedrock, dezvăluind că funcționalitățile de fine-tuning, în special pentru modele non-Amazon precum Llama, variază semnificativ între regiunile AWS. Autorul a efectuat o scanare API în 33 de regiuni pentru a identifica modelele disponibile pentru personalizare, descoperind că doar o singură regiune suportă fine-tuning pentru Llama 3.3 70B, iar regiunea implicită 'us-east-1' oferă predominant modelele proprietare Amazon.
• 05.09 · 09:17aiCEO-ul Ollama, Jeffrey Morgan: 80% din tokenurile enterprise vor migra către open sourceCEO-ul Ollama, Jeffrey Morgan, prezice o schimbare semnificativă, afirmând că 80% din tokenurile enterprise vor migra către soluții open source. Această tendință este determinată de cererea crescândă pentru transparență, personalizare și eficiență a costurilor în dezvoltarea AI.