Supervised Fine-tuning
Pagina pubblicata il · ultima novità il · sintesi aggiornata il 18 ottobre 2026
Il Supervised Fine-Tuning (SFT) rappresenta una tecnica fondamentale per adattare modelli di base a compiti specifici e flussi di lavoro agentic complessi, come dimostrato dall'integrazione in framework avanzati quali Holo4, TerminalHorizon e AEWM. Gli sviluppi recenti evidenziano un passaggio verso strategie ibride che combinano SFT con tecniche di distillazione on-policy o off-policy per ottimizzare l'efficienza dei parametri nelle architetture Mixture of Experts (MoE) senza sacrificare le capacità di ragionamento multi-step. Un trend emergente è la generazione automatizzata e scalabile delle traiettorie di addestramento tramite sistemi come Recursive Self-Rewrite o TerminalHorizon, che trasformano compiti terminali in dataset ricchi per migliorare significativamente i punteggi su benchmark complessi come OSWorld 2.0 e coding-agent tasks. Sebbene l'uso del fine-tuning supervisionato sia consolidato per allineare il ragionamento con le azioni (action judge) o filtrare evidenze nei sistemi di ricerca, studi sistematici suggeriscono che la scelta tra policy on-policy e off-policy non è intrinsecamente superiore ma dipende criticamente dagli obiettivi specifici e dalla gestione degli iperparametri. Inoltre, l'automazione della fase stessa del data research tramite agenti sintetici sta diventando essenziale per superare i limiti dei pool di dati statici e migliorare metriche come IFEval e IFBench.
Sintesi generata automaticamente dalle schede elencate.
Cronologia
- InfoVis: Unified Slide Image Generation and EditingÈ rilevante per gli sviluppatori che lavorano con LLM e agenti perché offre una soluzione open-source scalabile per la manipolazione visiva complessa, riducendo la dipendenza da modelli proprietari costosi.
- MLExpert: Towards a Generalist Agentic Model for Autonomous Machine Learning Engineering['Rappresenta un passo cruciale verso sistemi di ingegneria del machine learning completamente autonomi, riducendo la necessità di intervento umano diretto nella gestione delle lunghe traiettorie sperimentali.', "Offre una via praticabile per l'ottimizzazione locale e lo sviluppo di agenti complessi che possono adattarsi dinamicamente alle condizioni dell'esecuzione senza richiedere ri-allenamento continuo da zero."]
- MetaCurate: Evolving Curation Filters for High-Quality Agentic Coding DataPer gli sviluppatori che lavorano con agenti e AI locale, MetaCurate offre una via per ottenere dati di alta qualità senza dipendere da criteri manuali costosi o esperti umani. Consente di costruire pipeline robuste per il fine-tuning degli agenti direttamente su dataset grezzi, massimizzando l'efficacia dell'inference riducendo la spesa computazionale nella fase di selezione.
- AutoSFT: An Agentic System for Automated Data Research in Supervised Fine-TuningÈ rilevante per uno sviluppatore che lavora con LLM, agenti e AI locale perché offre una soluzione automatizzata per l'ottimizzazione dei dati durante il supervised fine-tuning, riducendo la necessità di interventi manuali.
- QREF: Improving DeepSearch Agents by Aligning Search with Reasoning via Query Refinement and Evidence FilteringPer uno sviluppatore che lavora con LLM, agenti e AI locale, questo paper è rilevante perché offre una soluzione pratica per migliorare l'efficacia dei DeepSearch agenti senza complesse modifiche architetturali.
- Scaling Agentic Data for Long-Horizon Terminal IntelligencePer gli sviluppatori che lavorano con LLM e agenti locali, questo lavoro è cruciale perché fornisce un metodo robusto per generare dati ad alta qualità necessari ad allenare modelli capaci di gestire compiti a lungo termine senza cadere in semplificazioni artificiali.
- Run fast, private agents on-device with LFM2.5-24B-A2BPer gli sviluppatori che costruiscono agenti AI locali o edge computing, questo modello offre un compromesso ottimale tra potenza cognitiva (ragionamento esplicito) ed efficienza energetica, permettendo di eseguire task complessi senza costi cloud né latenza di rete.
- VepAgent: Bridging Causal-Transition via Tool-Augmented Reinforcement Learning for Video Event PredictionQuesta architettura è rilevante per gli sviluppatori che lavorano con agenti AI perché dimostra come l'integrazione esplicita del grounding visivo e delle transizioni causali superi i limiti dei priori testuali superficiali nei modelli locali o open-source. Offre un approccio pratico per migliorare la robustezza degli MLLM in compiti di previsione video complessi senza affidarsi esclusivamente alla capacità generativa passiva.
- Kandinsky 6.0 Video: Foundation Models for Synchronized Video and Audio Generation['Permette a sviluppatori di integrare generazione multimediale sincronizzata direttamente in pipeline locali senza dipendenze cloud costose.', "L'architettura CrossDiT offre un framework modulare per allineare temporalmente e semanticamente contenuti audio e video, utile per agenti AI che richiedono output multimediali coerenti."]
- Scaling Trajectories for Complex Tasks through Recursive Self-RewritePer gli sviluppatori di agenti e AI locale, RSR offre una strategia per mitigare i rischi legati all'uso di harness specializzati non disponibili in produzione, permettendo invece di internalizzare le soluzioni complesse direttamente nel modello tramite SFT.
- On-Policy or Off-Policy Learning? A Systematic Study of Distillation DynamicsPer gli sviluppatori che lavorano con LLM e agenti locali, questo paper sfata l'idea dogmatica secondo cui i rollouts on-policy siano sempre preferibili, suggerendo invece di ottimizzare attentamente il learning rate e scegliere tra forward/reverse KL in base alla stabilità desiderata del modello.
- Holo4: powering generalist computer-use agentsPer gli sviluppatori che lavorano con agenti AI locali o su cloud ibrido, Holo4 offre una soluzione versatile per automatizzare task complessi senza essere vincolati a un singolo tipo di interfaccia (es. solo API o solo GUI), riducendo al contempo i costi inferenza rispetto ai modelli chiusi.
- Agent-Editing World Model: Rethinking World Modeling for LLM AgentsQuesta architettura è rilevante per gli sviluppatori che lavorano con LLM e agenti perché risolve il problema della contaminazione dello stato del task, migliorando l'affidabilità delle decisioni autonome senza dipendere da simulazioni inaccurate degli strumenti.
- Spatial-Interactor: Learning Spatial Reasoning through Interaction with the Observable Physical WorldQuesta architettura offre un percorso concreto per integrare agenti autonomi in ambienti fisici reali, fornendo supervisione diretta sulle transizioni di stato che i modelli puramente basati su dati statici faticano a comprendere.