Concetto · 2 novità
Sparse Autoencoders
Pagina pubblicata il · ultima novità il
Cronologia
- Representation Redistribution in Sparse AutoencodersPer gli sviluppatori che lavorano con LLM e agenti locali, questo paper offre strumenti pratici per diagnosticare la robustezza dei meccanismi di sicurezza (safety readouts) senza dover modificare il modello sottostante. Comprendere come le feature sparse si ridistribuisce aiuta a quantificare i rischi reali rispetto alle semplici osservazioni superficiali delle attivazioni.
- Behavioral Compositionality of Sparse Autoencoder RepresentationsQuesto lavoro è rilevante per uno sviluppatore che lavora con LLM, agenti e AI locale poiché fornisce un approccio per migliorare la composibilità delle rappresentazioni sparse, facilitando l'interpretazione e l'intervento su modelli complessi.