unslothai/unsloth v0.1.913-beta — Customize + Performance + UI/UX improvements
Pubblicata su AIChronos il · fonte del · unslothai
La release v0.1.913-beta di Unsloth introduce significativi miglioramenti alle prestazioni e all'interfaccia utente per l'inferenza locale e il fine-tuning dei modelli LLM. Tra le novità principali vi sono l'integrazione del modello DeepSeek-V4.1-Flash-1017, un supporto linguistico esteso a 14 nuove lingue e ottimizzazioni specifiche per hardware NVIDIA che aumentano i frame rate di scorrimento fino a ~60 fps su Linux. L'aggiornamento accelera gli aggiornamenti dell'applicazione del 50% eliminando la precompilazione Python e migliora l'utilizzo della memoria VRAM, permettendo operazioni come FLUX.2-klein-9B con soli 12.7 GB di RAM.
- Integrazione del modello DeepSeek-V4.1-Flash-1017 tramite Unsloth Dynamic v3.1 GGUFs per alta accuratezza sui benchmark.
- Espansione del supporto linguistico con l'aggiunta di 14 nuove lingue alla piattaforma.
- Ottimizzazione delle prestazioni Linux su hardware NVIDIA, portando i frame rate da ~17 fps a ~60 fps riducendo il lag.
- Implementazione di ottimizzazioni per batched MoE fine-tuning che permettono di eseguire job LoRA/QLoRA compatibili insieme tramite API mantenendo adapter distinti.
- Miglioramenti UI/UX inclusi sfondi personalizzabili, compositore chat spostato in basso e layout unificato delle impostazioni.
Perché conta. Questa release è cruciale per gli sviluppatori che operano con LLM locali poiché riduce drasticamente i requisiti hardware (es. esecuzione di modelli pesanti su meno VRAM) e accelera sia l'inferenza che il fine-tuning, rendendo fattibile lo sviluppo di agenti complessi anche su workstation consumer.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.