Concetto · 2 novità
GGUF
Pagina pubblicata il · ultima novità il
Cronologia
- unslothai/unsloth v0.1.905-beta — Sandboxing is here!Questa release è cruciale per gli sviluppatori che lavorano con agenti AI e modelli locali perché garantisce l'esecuzione sicura in sandbox, riduce le dipendenze esterne integrando ComfyUI nativamente e accelera drasticamente i tempi di training su hardware consumer o enterprise.
- Transformers now runs llama.cpp quantsQuesta integrazione permette agli sviluppatori di lavorare con checkpoint GGUF direttamente all'interno degli ecosistemi PyTorch e Transformers standard, eliminando la necessità di gestire runtime separati per l'inferenza locale su hardware Apple. Consente inoltre una verifica immediata dell'accuratezza della conversione dei pesi e del quantization error prima di procedere a pipeline complesse come il fine-tuning o lo sviluppo di agenti.