Codice · GitHub
ollama/ollama v0.40.15-rc1 — v0.40.15
Pubblicata su AIChronos il · fonte del · ollama
La release v0.40.15 di Ollama introduce il supporto per la libreria CUDA caricata in-processo su Linux tramite MLX e aggiunge l'integrazione del modello MiMo V2.6.
- Implementazione del caricamento delle librerie bundled CUDA all'interno dello stesso processo su sistemi operativi Linux.
- Aggiunta ufficiale della compatibilità per il nuovo modello linguistico MiMo V2.6 nell'ecosistema Ollama.
- Contributo sviluppato da @dhiltgen tramite pull request #19433 e #19400 sul repository GitHub di Ollama.
Perché conta. Questa release è rilevante per gli sviluppatori che operano con LLM locali poiché abilita l'accelerazione GPU CUDA su Linux senza dipendenze esterne separate, migliorando le prestazioni dell'inference e semplificando il deployment di modelli avanzati come MiMo V2.6.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.