Concetto · 2 novità
Codebook
Pagina pubblicata il · ultima novità il
Cronologia
- Can Discrete Tokens Serve as Semantically Lossless Representations of Visual Signals?Per gli sviluppatori di LLM e agenti AI, questo paper offre una via concreta per ridurre drasticamente i costi di inferenza locale sostituendo le rappresentazioni continue (spesso costose in termini di memoria) con token discreti senza sacrificare la fedeltà semantica. La tecnica FVQ permette di costruire modelli multimodali efficienti che operano nativamente nello spazio discreto, allineandosi meglio agli obiettivi predittivi dei linguaggi.
- IntBMoE: Integrating Block-Level Conditioning into Expert Composition for Full-Participation Mixture-of-ExpertsPer gli sviluppatori che lavorano su LLM, agenti o AI locale, IntBMoE offre un modo pratico per scalare la capacità del modello mantenendo il consumo di memoria e computazione sotto controllo attraverso una gestione intelligente dei blocchi.