Questo è un ottimo intervento di Chollet sul percorso verso l'AGI e sul perché la scalabilità da sola (e nemmeno la scalabilità + ragionamento CoT) ci porterà lì. Link al video qui sotto. Discute di astrazione, ragionamento simbolico, ottimizzazione continua vs discreta (ricerca di programmi) e molti altri argomenti importanti. Nota che continua a usare il termine "Intelligenza Fluida". $trilioni e dominio geostrategico sono in gioco, quindi i ricercatori di IA devono essere realistici su cosa sia "intelligenza". Finiscono per ricreare i metodi della psicometria (ora applicati alle IA invece che agli esseri umani) che sono stati in gran parte espulsi dall'accademia dalla stupidità woke.

Gli esseri umani fanno pensiero combinatorio discreto in cui gli attuali LLM non sono bravi. In particolare, gli esseri umani possono combinare moduli discreti con proprietà astratte per costruire immagini mentali di programmi complessi. Ovviamente, il cervello umano potrebbe utilizzare qualche tipo di euristica continua di "metrica di distanza" in background per fare ipotesi / avere intuizioni su questo processo combinatorio discreto. Chollet suggerisce che dobbiamo costruire la capacità per l'IA di incorporare il problema combinatorio (con proprietà astratte per i moduli) in uno spazio latente con una metrica in modo da utilizzare metodi di ottimizzazione continua per trovare soluzioni (cioè sfruttare l'intuizione ed evitare la ricerca esaustiva).