Towards Foundation Decision Models: Drex
Pubblicata su AIChronos il · fonte del · Nischay Dhankhar, Alisher Amantay, Zhanibek Datbayev, Darkhan Akhmetov, Yash Shah, Nurmukhamed Ubaidullayev (Nace.AI)
Drex è una famiglia di modelli decisionali open source progettati per sostituire gli approcci autoregressivi tradizionali nei task che richiedono scelte multiple o giudizi binari. Questi modelli restituiscono direttamente una distribuzione di probabilità sulle opzioni senza necessitare del decoding autoregressivo, riducendo così latenza e costi operativi in produzione. Il training combina supervised fine-tuning con reinforcement learning from adjusted feedback (RLAF) per migliorare accuratezza e robustezza all'ordinamento delle opzioni.
- Drex offre quattro varianti open source: DLM (8B), v1.5 (9B), Max (27B) e una versione da 35B con solo 3B parametri attivi.
- Il modello Max raggiunge uno stato dell'arte su Decision Index 0.4.1, superando Jev 1.14.0 con un punteggio di 67.52 contro il 60.70.
- La latenza per una richiesta tipica è drasticamente ridotta a circa 183 ms rispetto ai 2-3 secondi richiesti da modelli come GPT-6 Sol o Claude Opus 5.5.
- L'uso di consistency losses garantisce che le risposte siano stabili e non influenzate dalla riordinazione delle opzioni fornite dall'utente.
- Il modello Max include tuning visionario per gestire input contenenti immagini oltre a documenti, record e contesti degli agenti.
Perché conta. Per gli sviluppatori che costruiscono sistemi locali o agent-based, Drex elimina la necessità di parsing complesso delle output autoregressive, garantendo risposte deterministiche e veloci ideali per interfacce utente in tempo reale.
Vai alla fonte originale ↗ arXiv ↗
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.