huggingface/transformers v5.19.0 — Release v5.19.0
Aggiunta all'archivio di AIChronos il (numero del 6 ottobre 2026 ricostruito)· fonte del · huggingface
La release v5.19.0 di Hugging Face Transformers introduce il nuovo modello multimodale EmbeddingGemma2 e migliora significativamente la gestione della cache quantizzata con supporto per configurazioni per strato. Vengono apportate modifiche critiche ai modelli MoE che ora restituiscono i logiti del router, si depreca l'uso dei prefissi 'paged|' per le implementazioni SDPA e flash attention in favore di un batching continuo diretto, e viene aggiunta la dispatching degli esperti tramite token per il parallelismo esperto. Inoltre, vengono risolti vari bug relativi alla gestione della seed nel DataCollator, al calcolo delle penalità di ripetizione negli encoderi e all'integrazione con backend hardware specifici come XPU.
- Introduzione del modello EmbeddingGemma2 per embedding multimodali (testo, immagine, audio, video) in uno spazio vettoriale condiviso a 768 dimensioni.
- Modifica breaking change: i modelli MoE calcolano e restituiscono ora esplicitamente i router logits quando `output_router_logits=True`.
- Deprecazione del prefisso 'paged|' per SDPA e flash attention; le funzioni regolari supportano direttamente il continuous batching (CB).
- Miglioramenti nella gestione della cache quantizzata, inclusa la possibilità di configurare parametri specifici per ogni layer (finestra scorrevole, chunk size).
- Implementazione del token dispatching per il parallelismo esperto (`ep_dispatch_experts`), eliminando la necessità che EP e TP abbiano le stesse dimensioni.
Perché conta. Questa release è cruciale per gli sviluppatori di agenti AI locali perché ottimizza l'uso della memoria attraverso configurazioni granulari della cache, riduce i tempi di inferenza abilitando il continuous batching nativo e semplifica la scalabilità orizzontale dei modelli MoE tramite nuove strategie di parallelismo esperto.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.