Agents laten denken in een latente ruimte: 10,4% beter, de helft van de tokens#
Onderzoekers van Stanford, Together AI en UIUC zetten een paper op Hacker News dat vanochtend bovenaan stond (284 punten, 157 reacties): Hybrid Reasoning Agents laat een agent redeneren in een latente ruimte en alleen via tekst handelen. Getest op drie modelgroottes en elf benchmarks gaat het gemiddeld 10,4% omhoog, met 35,5 tot 54,7% minder tokens, 1,8 tot 2,6 keer snellere inference en 2,7 tot 3,7 keer lagere kosten. Een lichtgewicht HybridLink schakelt tussen latent en tekst, en de latente gedachten zijn achteraf als pseudo-tekst te lezen; code, weights en trainingsdata staan open.