Scaling Parameter-Efficient Fine-Tuning for Brain Encoding
Pubblicata su AIChronos il · fonte del · Zhuofan Josh Ying, Guanglong Sun, Nolan Ho, Kieran Liu, Rui Yang, Andrew Chen
Il paper propone l'uso del Parameter-Efficient Fine-Tuning (PEFT) per adattare efficientemente backbone pre-addestrati di grandi dimensioni ai modelli di brain encoding. L'autori sfruttano la struttura causale dei backbone per predire multipli timepoints in un singolo passaggio, riducendo drasticamente i costi computazionali rispetto alle finestre scorrevoli. Questo approccio permette l'adattamento efficace anche a multimodal backbones con fino a 104B parametri utilizzando Low-Rank Adapters (LoRA). Il metodo BrainLoRA ottiene le migliori prestazioni pubblicate sulla Algonauts 2025 Challenge e mantiene la interpretabilità dei modelli, recuperando la topografia sensoriale canonica.
- PEFT abilita l'adattamento di backbone enormi (fino a 104B parametri) con un numero limitato di parametri trainabili su dati neurali costosi e limitati.
- L'utilizzo della struttura causale del modello permette di elaborare multipli timepoints in una singola pass, ottimizzando il costo dell'estrazione delle feature.
- Il metodo BrainLoRA supera lo stato dell'arte (SoTA) sulla Algonauts 2025 Challenge e crea un ensemble di oltre 200 modelli adattati tramite un kernel multi-LoRA.
- I backbone multimodali adattati mantengono la interpretabilità, recuperando automaticamente la topografia sensoriale canonica senza bisogno di encoder unimodali separati.
- L'approccio dimostra che PEFT è una paradigma potente ed efficiente per l'inference su dati neurali complessi.
Perché conta. Per uno sviluppatore che lavora con LLM e AI locale, questo paper offre strategie concrete per adattare modelli di grandi dimensioni a domini specifici (come il brain encoding) senza i costi proibitivi del fine-tuning completo. Inoltre, l'ottimizzazione dell'inference tramite la struttura causale è direttamente applicabile per ridurre latenza e consumo energetico in scenari edge o su hardware limitato.
Vai alla fonte originale ↗ arXiv ↗
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.