Granite Switch 4.1.1 — Update models like you update software
Pubblicata su AIChronos il · fonte del · Hugging Face blog
Granite Switch 4.1.1 è un rilascio patch basato sull'architettura modulare di Granite Switch che permette aggiornamenti incrementali senza migrazione o ricomputo del modello base. L'aggiornamento include nuovi adapter per il riconoscimento vocale multilingue (ASR) e miglioramenti nelle prestazioni dell'adapter Decision tramite l'indice Jev. Questo approccio consente ai team di rilasciare funzionalità come patch software, mantenendo intatto il modello sottostante mentre si compongono gli ultimi adapter desiderati.
- Granite Switch 4.1.1 è totalmente retrocompatibile con la versione 4.1 e non richiede migrazione dei dati esistenti.
- Il rilascio introduce un nuovo Granite Speech ASR modello supportante trascrizione in 10 lingue con punteggiatura nativa.
- L'adapter Decision aggiornato offre prestazioni migliorate sul test set Jev Decision Index tramite granitelib-core.
- Nessuna parte del modello base è stata ricomputata, garantendo efficienza e velocità nel deployment degli aggiornamenti.
- IBM sta sviluppando un Adapter SDK per permettere a terzi di costruire adapter personalizzati iterare sulle versioni.
Perché conta. Per gli sviluppi che lavorano con LLM locali o agenti autonomi, questa architettura modulare elimina i costi computazionali e temporali del fine-tuning completo, permettendo un'aggiornamento rapido delle competenze (expertise) senza toccare il modello base. Questo paradigma trasforma la manutenzione dei modelli in un processo simile all'update di software tradizionale.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.