Ini adalah pembicaraan yang bagus oleh Chollet tentang jalan menuju AGI dan mengapa penskalaan saja (dan bahkan tidak penskalaan + penalaran CoT) akan membawa kita ke sana. Tautan video di bawah ini. Dia membahas abstraksi, penalaran simbolis, optimasi kontinu vs diskrit (pencarian program), dan banyak topik penting lainnya. Perhatikan bahwa dia terus menggunakan istilah "Kecerdasan Fluida". $trillions dan dominasi geostrategis dipertaruhkan sehingga peneliti AI harus realistis tentang apa itu "kecerdasan". Mereka akhirnya menciptakan kembali metode psikometri (sekarang diterapkan pada AI alih-alih manusia) yang sebagian besar telah diusir dari akademi oleh kebodohan yang terbangun.

Manusia melakukan pemikiran kombinatorial diskrit yang tidak dikuasai LLM saat ini. Secara khusus, manusia dapat menggabungkan modul diskrit dengan sifat abstrak untuk membangun gambar mental dari program yang kompleks. Ofc otak manusia mungkin menggunakan semacam heuristik "metrik jarak" kontinu di latar belakang untuk membuat tebakan / memiliki intuisi tentang proses kombinatorial diskrit ini. Chollet menyarankan bahwa kita perlu membangun kemampuan AI untuk menyematkan masalah kombinatorial (dengan properti abstrak untuk modul) ke dalam ruang laten dengan metrik sehingga menggunakan metode pengoptimalan berkelanjutan untuk menemukan solusi (yaitu mengeksploitasi intuisi dan menghindari pencarian brute force).