Concetto · 3 novità
Vision Transformer
Pagina pubblicata il · ultima novità il
Cronologia
- Data-Efficient ConvNeXt Pretraining for High-Resolution Sentinel-1 GRD SAR Representation LearningSebbene il paper si concentri su architetture convoluzionali e non direttamente sui LLM, offre principi fondamentali per l'ottimizzazione dell'inference locale: la riduzione dello stride iniziale aumenta densità informativa a parità di parametri (utile per modelli efficienti) e le tecniche di mixed-precision con LLRD sono rilevanti per stabilizzare il training in ambienti hardware vincolati.
- A PyTorch Library for Hyperspectral Image Models: Technical ReportSebbene focalizzato su dati iperspettuali, il framework illustra best practice critiche per lo sviluppo locale: gestione standardizzata dei tenso multi-dimensionali, prevenzione del data leakage tramite partizionamento spaziale rigoroso e ottimizzazione di modelli leggeri (<1M parametri) che possono sostituire architetture massive in contesti a risorse limitate.
- Editable Map-Conditioned Trajectory Generation for Human Mobility SimulationPer gli sviluppatori che lavorano con agenti AI o simulazioni locali, questo approccio offre un meccanismo per aggiornare dinamicamente l'ambiente (mappe) senza il costo computazionale e temporale del fine-tuning completo di grandi modelli.