Concetto · 2 novità
Recurrent States
Pagina pubblicata il · ultima novità il
Cronologia
- Tandem: Serving Hybrid Linear-Attention GUI Agents on Mobile NPUsPer gli sviluppatori che lavorano con agenti AI locali, Tandem offre una soluzione critica per mitigare l'accumulo della latenza e i costi energetici tipici dei dispositivi mobili, rendendo fattibile un'esecuzione fluida di compiti GUI complessi senza compromettere le prestazioni dell'NPU.
- STEPQuant: When and Where Errors Matter in Delta-Rule Recurrent State QuantizationPer gli sviluppatori che gestiscono LLM e agenti, STEPQuant offre un modo efficace per mitigare il collo di bottiglia della memoria nei server concorrenti senza sacrificare drasticamente l'accuratezza del modello.