MLExpert: Towards a Generalist Agentic Model for Autonomous Machine Learning Engineering

Pubblicata su AIChronos il 19 ottobre 2026· fonte del 15 ottobre 2026· Shangheng Du, Jinxin Shi, Shuaiyu Zhang, Yiming Wu, Junpeng Zhao, Shiyang Feng (Intern Science)

MLExpert è un modello agenziale generalista da 35B parametri basato su Mixture-of-Experts (MoE), progettato per l'ingegneria del machine learning autonomo a lungo termine. Il sistema utilizza una metodologia di post-training che combina Supervised Fine-Tuning gerarchico guidato dagli esiti e Reinforcement Learning tramite Windowed Interaction RL (WIRL) per ottimizzare le strategie sperimentali basandosi sul feedback cumulativo. Attraverso la piattaforma Kaggle-MLE Factory, il modello ha migliorato significativamente i tassi di successo sui benchmark MLE-Bench Lite e NatureBench Lite, raggiungendo prestazioni paragonabili a modelli frontier più grandi.

• Implementazione di un approccio AI4AI (AI for AI) che permette ai LLM di sviluppare autonomamente sistemi di intelligenza artificiale attraverso il recursive self-improvement (RSI).
• Utilizzo del Windowed Interaction RL per assegnare ricompense condivise basate sugli esiti a finestre temporali multi-turno tra i risultati degli esperimenti.
• Adozione della tecnica Mixture-of-Experts (MoE) con una capacità computazionale di 35 miliardi di parametri per gestire l'orchestrazione complessa delle sperimentazioni.
• Capacità generalizzata dimostrata su task diversi, inclusa l'ottimizzazione degli agenti e la scoperta algoritmica, superando il modello base del 92% in termini di medaglia ottenuta.
• Architettura che supporta aggiornamenti della policy asincroni prima che una traiettoria sperimentale si concluda per massimizzare l'apprendimento dai feedback intermedi.

Perché conta. ['Rappresenta un passo cruciale verso sistemi di ingegneria del machine learning completamente autonomi, riducendo la necessità di intervento umano diretto nella gestione delle lunghe traiettorie sperimentali.', "Offre una via praticabile per l'ottimizzazione locale e lo sviluppo di agenti complessi che possono adattarsi dinamicamente alle condizioni dell'esecuzione senza richiedere ri-allenamento continuo da zero."]

Vai alla fonte originale ↗ arXiv ↗

Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.