Aceasta este o discuție grozavă a lui Chollet despre calea către AGI și de ce scalarea singură (și nici măcar scalarea + raționamentul CoT) ne va duce acolo. Link video mai jos. El discută abstracția, raționamentul simbolic, optimizarea continuă vs discretă (căutarea programelor) și multe alte subiecte importante. Rețineți că continuă să folosească termenul "Inteligență fluidă". $trillions și dominația geostrategică sunt în joc, așa că cercetătorii AI trebuie să fie realiști cu privire la ceea ce este "inteligența". Ei sfârșesc prin a recrea metodele de psihometrie (acum aplicate IA în loc de oameni) care au fost în mare parte alungate din academie de prostia trezită.

Oamenii au o gândire combinatorică discretă la care LLM-urile actuale nu sunt bune. În special, oamenii pot combina module discrete cu proprietăți abstracte pentru a construi imagini mentale ale programelor complexe. De fapt, creierul uman poate folosi un fel de euristică continuă de "metrică a distanței" în fundal pentru a face presupuneri / a avea intuiție despre acest proces combinatoriu discret. Chollet sugerează că trebuie să construim capacitatea AI de a încorpora problema combinatorie (cu proprietăți abstracte pentru module) într-un spațiu latent cu o metrică, astfel încât să folosim metode de optimizare continuă pentru a găsi soluții (adică exploatarea intuiției și evitarea căutării forței brute).