Codice · GitHub
ollama/ollama v0.40.7
Pubblicata su AIChronos il · fonte del · ollama
La release v0.40.7 di Ollama introduce il nuovo modello decisionale pplx-decider (27B), basato su Qwen3.8-27B e fine-tuned da Perplexity, per migliorare la gestione delle conversazioni compatibili con OpenAI Responses.
- Miglioramento della stabilità nelle transizioni tra modelli che utilizzano o meno il ragionamento (thinking) durante le sessioni di chat.
- Correzione dei bug nello streaming delle richieste Responses, evitando eventi duplicati o disordinati nei tool call del client.
- Implementazione automatica dell'inferenza per i draft models tramite speculative decoding nel server llama-server.
- Gestione corretta della cancellazione delle richieste remote su ollama.com al momento della disconnessione del client.
- Aggiornamenti alle librerie sottostanti llama.cpp e MLX, oltre a nuove API fields (renderer, parser, template_source).
Perché conta. Questa release è cruciale per gli sviluppatori che implementano agenti AI locali o sistemi multi-modello, garantendo una gestione robusta dello stato della conversazione e ottimizzando le prestazioni tramite speculative decoding senza configurazioni manuali.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.