Capable yet Parsimonious: Extracting and Characterizing Hidden Chain-of-Thought in Frontier Models
Aggiunta all'archivio di AIChronos il (numero del 24 settembre 2026 ricostruito)· fonte del · Xiaoyu Luo, Tao Ren, Wenrui Yu, Xiao Li, Qiongxiu Li, Johannes Bjerva (Sea-Fill)
Lo studio dimostra che i modelli frontier a sorgente chiusa nascondono tracce di ragionamento (CoT) interne, ma queste possono essere esternalizzate tramite l'uso di strumenti personalizzati registrati via API. L'estrazione del CoT nascosto in modelli come GPT-6 Astra rivela prestazioni paragonabili al ragionamento nativo dei modelli open-source e superiori alle baseline senza ragionamento su compiti matematici, scientifici e di coding. La ricerca caratterizza sistematicamente le differenze nella struttura del ragionamento esternalizzato, evidenziando che alcuni modelli adottano strategie efficienti in termini di token selezionando traiettorie corrette precocemente.
- Le capacità dei modelli frontier sono attribuite al miglioramento delle abilità di ragionamento, ma le tracce CoT nei sistemi chiusi erano precedentemente non verificabili.
- L'estrazione del CoT nascosto tramite strumenti custom supera significativamente le baseline senza ragionamento in competizione matematica, scienza e generazione codice.
- Il modello GPT-6 Astra mostra un ragionamento diretto efficiente in token, risolvendo i passaggi elementari internamente ed esternalizzando solo il ragionamento cruciale.
- Esistono differenze sistemiche nel modo in cui i modelli frontier comprimono e organizzano le loro tracce di ragionamento intermedio rispetto ai modelli open-source nativi.
- Le scoperte offrono una lente comportamentale per analizzare il ragionamento dei modelli oltre i semplici punteggi sui benchmark.
Perché conta. Per gli sviluppatori che lavorano con LLM e agenti, questo paper è cruciale perché permette di comprendere la qualità reale del ragionamento interno senza accesso ai pesi del modello, facilitando l'ottimizzazione dei costi computazionali (token efficiency) nella deployment locale o in produzione.
Vai alla fonte originale ↗ arXiv ↗
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.