vLLM

Pagina pubblicata il 28 settembre 2026· ultima novità il 18 ottobre 2026

Cronologia

• 18 ottobre 2026
  Welcome Beam: a 501B open model you can own, customize, and scale

  Per uno sviluppatore che lavora con LLM, agenti e AI locale, Welcome Beam offre un modello potente e flessibile, adattabile tramite fine-tuning e integrabile in diversi scenari computazionali.
• 13 ottobre 2026
  Run fast, private agents on-device with LFM2.5-24B-A2B

  Per gli sviluppatori che costruiscono agenti AI locali o edge computing, questo modello offre un compromesso ottimale tra potenza cognitiva (ragionamento esplicito) ed efficienza energetica, permettendo di eseguire task complessi senza costi cloud né latenza di rete.
• 28 settembre 2026
  Disaggregated Quantization: Specializing LLM Prefill and Decode

  ["Permette agli sviluppatori di ottimizzare l'inferenza locale bilanciando velocità del prompt (prefill) e accuratezza della generazione (decode).", 'Consente di migliorare le prestazioni su task complessi senza richiedere hardware aggiuntivo, sfruttando efficientemente risorse esistenti come SSD.']