ollama/ollama v0.40.5
Aggiunta all'archivio di AIChronos il (numero del 14 ottobre 2026 ricostruito)· fonte del · ollama
La release v0.40.5 di Ollama introduce il modello NVIDIA Nemotron 3.5 Super, un'architettura ibrida Mamba-2/Transformer con encoder C-RADIO per compiti vision-language e tool use fino a 1M token. È disponibile anche la variante compatta Nemotron 3.5 Bolt (74B parametri) ottimizzata per GPU NVIDIA da 24 GB tramite speculative decoding. Il release note segnala inoltre l'accesso cloud ai decision models via `clef:cloud`, il supporto nativo agli errori di conversazione con tool calls personalizzati e aggiornamenti delle librerie llama.cpp e MLX.
- Introduzione del modello Nemotron 3.5 Super basato su backbone ibrido Mamba-2/Transformer (12B parametri attivi per token).
- Disponibilità di una variante distillata, Nemotron 3.5 Bolt, con 9B parametri attivi adatta a GPU NVIDIA da 24 GB.
- Implementazione del speculative decoding tramite il drafter incluso nella versione Bolt per accelerare l'inference.
- Nuova funzionalità cloud che permette di eseguire decision models (`clef:cloud`, `clef-flash:cloud`) senza scaricarli localmente.
- Miglioramento della gestione degli errori con messaggi più chiari per problemi di autenticazione, pagamenti e accessi upstream.
Perché conta. Questa release è cruciale per gli sviluppatori che operano in ambienti locali o ibridi perché offre modelli ad alte prestazioni (Nemotron) ottimizzati per hardware specifico come le GPU NVIDIA da 24 GB, riducendo i costi di inferenza. Inoltre, l'integrazione nativa del cloud decision models e il supporto agli errori nelle conversazioni con tool calls estendono la capacità degli agenti AI senza richiedere infrastrutture complesse.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.