unslothai/unsloth v0.1.911-beta — Scheduled + MiniMax-M3.1-Flash + Perf Gains
Pubblicata su AIChronos il · fonte del · unslothai
La release v0.1.911-beta di unsloth introduce funzionalità avanzate per l'esecuzione locale e via API con task schedulati, integrando il modello MiniMax-M3.1-Flash a 428B MoE e migliorando le capacità di editing delle immagini FLUX 3. Il software ottimizza significativamente le prestazioni su sistemi Mac utilizzando MLX e implementa dettagli per la rendering video Wan2.1 con riduzioni del consumo della memoria. Inoltre, vengono apportati aggiornamenti critici alla sicurezza degli API user defaults e ottimizzazioni native FSDP2 per accelerare i gradienti.
- Introduzione di task schedulati per l'esecuzione locale o via API su intervalli definiti con salvataggio dei risultati come nuovi chat.
- Supporto aggiunto per MiniMax-M3.1-Flash, un modello MoE da 428B parametri attivi e finestra contestuale fino a 1M token.
- Ottimizzazione delle prestazioni su Mac tramite MLX che raggiunge velocità fino al 16% più rapide con modelli di bozza.
- Implementazione di feature detailer per immagini e video (es. Wan2.1) che ridisegnano elementi specifici a risoluzione superiore riducendo l'uso della memoria.
- Miglioramenti significativi nella generazione GRPO su GPU NVIDIA fino a 4.4x più veloci senza vLLM e 1.9x con vLLM per modelli Llama/Qwen3.
Perché conta. Questa release è cruciale per gli sviluppatori che operano in ambienti locali o ibridi, offrendo strumenti nativi per gestire agenti complessi su hardware Mac e ottimizzare l'uso della memoria GPU durante il training LoRA/QLoRA. Le nuove funzionalità di sicurezza e le performance migliorate sui modelli MoE e Qwen3 abilitano workflow più efficienti senza compromettere la stabilità del sistema.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.