huggingface/transformers v5.22.0 — v5.22.0: Mistral Large 4 (Le Chonk)
Pubblicata su AIChronos il · fonte del · huggingface
La release v5.22.0 di Hugging Face Transformers introduce Mistral Large 4 (Le Chonk), un modello multimodale nativo con 1 trilione di parametri totali e 49 miliardi attivi, addestrato su infrastruttura NVIDIA Grace Blackwell in Europa. Il nuovo modello unifica capacità di ragionamento, coding e flussi agentic in una singola architettura Mixture-of-Experts ottimizzata per contesti fino a 1M token. Sono stati implementati miglioramenti significativi nel supporto FP8 quantizzato per l'addestramento degli adapter (LoRA) riducendo drasticamente il picco di memoria durante i passaggi backward.
- Introduzione di Mistral Large 4 con architettura MoE granulare e capacità native in oltre 160 lingue, inclusi tutti quelli dell'UE.
- Supporto per finestre contestuali estese fino a 1M token e encoder visuale Pixtral-style per input immagine variabili.
- Implementazione di modalità ragionamento configurabile (low/medium/high) con parametri di sampling ottimizzati per agentic workflows.
- Abilitazione dell'addestramento su pesi FP8 quantizzati tramite backward pass chunked e skip autograd a inferenza.
- Rimozione del ciclo deprecazione per i candidate generator e disattivazione delle run automatiche dei benchmark legacy.
Perché conta. Questa release è cruciale per gli sviluppatori che integrano LLM avanzati in sistemi agentic locali, offrendo un modello open-weight capace di gestire compiti complessi come cybersecurity o finanza con finestre contestuali massive. Inoltre, l'ottimizzazione FP8 permette di addestrare adapter su hardware meno potente riducendo il consumo di memoria GPU durante le fasi critiche del training.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.