AIChronos.notizie sull'intelligenza artificiale
Iscriviti
Codice · GitHub

unslothai/unsloth v0.1.905-beta — Sandboxing is here!

Aggiunta all'archivio di AIChronos il (numero del 8 ottobre 2026 ricostruito)· fonte del · unslothai

La release v0.1.905-beta di Unsloth introduce il sandboxing cross-platform tramite Bwrap, Seatbelt e MXC per isolare l'esecuzione dei modelli LLM su Linux, Mac e Windows. Il software ora supporta nativamente il caricamento e l'inferenza diretta di modelli ComfyUI per immagini e video senza dipendenze esterne, migliorando le prestazioni delle diffusion models con INT8 ConvRot. Sono state apportate ottimizzazioni significative nella velocità di training fino a 4.1x per architetture Qwen specifiche utilizzando QLoRA.

  • Implementazione del sandboxing isolato su tutte le piattaforme principali (Linux, Mac, Windows) tramite strumenti nativi come Bwrap e Seatbelt.
  • Conversione di qualsiasi LLM testuale o visivo in un modello decisionale Jev-style con incrementi di accuratezza fino all'80%.
  • Supporto per l'esportazione di modelli Clef (Qwen3.5) e Laya nel formato GGUF per il serving tramite llama.cpp con scoring della fiducia.
  • Miglioramento nella gestione dei dataset visivi preservando le domande individuali e supportando formati trasparenti come PNG/WebP su sfondo bianco.
  • Ottimizzazione dell'installazione dei kernel saltando mamba_ssm sotto sm80 o installandolo con Triton 3.4+ su hardware specifico.

Perché conta. Questa release è cruciale per gli sviluppatori che lavorano con agenti AI e modelli locali perché garantisce l'esecuzione sicura in sandbox, riduce le dipendenze esterne integrando ComfyUI nativamente e accelera drasticamente i tempi di training su hardware consumer o enterprise.

Vai alla fonte originale ↗

SandboxingComfyUIGGUFQLoRAllama.cppDiffusion Models

Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.