Yalda-Embedding: Open Development of a Competitive Persian Retrieval Model
Pubblicata su AIChronos il · fonte del · Yalda Taheri, Mohammad Hassan Heydari, Armon Rasooli
Yalda Embedding è un modello di retrieval denso per il persiano da 595.8 milioni di parametri, derivato e fine-tuned su Qwen3-Embedding-0.6B utilizzando oltre un milione di coppie query-documento. Il modello supera tutti i modelli basati su architetture simili (come F2LLM-v2) in otto task del benchmark FaMTEB, raggiungendo una macro-average di 0.5488 e avvicinandosi alle prestazioni del modello da 4 miliardi di parametri Qwen3-Embedding-4B senza aumentare le dimensioni a inferenza. Gli studi ablativi dimostrano che il solo contrastive fine-tuning offre miglioramenti limitati, mentre l'aggiunta della relational knowledge distillation dal teacher F2LLM-v2-8B è essenziale per migliorare tutti i task e gestire efficacemente hard-negative evaluation tasks senza mining esplicito.
- Il modello Yalda Embedding supera Qwen3-Embedding-0.6B e F2LLM-v2-0.6B in ogni singolo task del benchmark FaMTEB per il persiano.
- La configurazione finale utilizza la relational knowledge distillation da un teacher di 8 miliardi di parametri (F2LLM-v2-8B) senza aumentare le dimensioni a inferenza.
- Il modello raggiunge prestazioni competitive con modelli molto più grandi (Qwen3-Embedding-4B), vincendo su quattro task e pareggiandone uno.
- Le performance sono ottenute anche in scenari di hard-negative evaluation, nonostante l'addestramento non includa negativi difficili esplicitamente estratti o forniti.
- Sono rilasciate le weights del modello, il codice per training/evaluation, il dataset pairwise e la controparte teacher-embedded.
Perché conta. Per gli sviluppatori che lavorano con LLM locali o agenti AI in contesti persiani, questo paper offre un'alternativa open-source ad alte prestazioni rispetto ai modelli proprietari inglesi, riducendo i costi di inferenza mantenendo la qualità del retrieval denso.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.