Concetto · 2 novità
MLX
Pagina pubblicata il · ultima novità il
Cronologia
- ollama/ollama v0.40.12-rc0 — v0.40.12Questa release è cruciale per gli sviluppatori che operano in ambiente locale, poiché offre un'accelerazione diretta delle inferenze su modelli visionari e testuali senza dipendenze cloud. L'integrazione di DFlash2 rappresenta un passo avanti significativo nell'utilizzo efficiente della memoria GPU, riducendo i latency critici per agenti AI complessi.
- Jun Kim, oMLX creator and maintainer, joins Hugging Face to support the MLX communityPer gli sviluppatori che lavorano con LLM locali, questa notizia garantisce un futuro sostenibile per l'inferenza su hardware Apple e riduce le barriere all'ingresso per chi vuole costruire agenti autonomi senza costi di cloud.