Dies ist ein großartiger Vortrag von Chollet über den Weg zur AGI und warum allein das Skalieren (und nicht einmal Skalieren + CoT-Argumentation) uns dorthin bringen wird. Video-Link unten. Er spricht über Abstraktion, symbolisches Denken, kontinuierliche vs. diskrete Optimierung (Programmsuche) und viele andere wichtige Themen. Beachten Sie, dass er ständig den Begriff "Fluide Intelligenz" verwendet. $Billionen und geostrategische Dominanz stehen auf dem Spiel, daher müssen KI-Forscher realistisch darüber sein, was "Intelligenz" ist. Sie enden damit, die Methoden der Psychometrie (jetzt auf AIs anstelle von Menschen angewendet) neu zu erschaffen, die größtenteils von der Akademie durch woke Dummheit verdrängt wurden.

Menschen betreiben diskrete kombinatorische Denkweise, die aktuelle LLMs nicht gut beherrschen. Insbesondere können Menschen diskrete Module mit abstrahierten Eigenschaften kombinieren, um mentale Bilder komplexer Programme zu erstellen. Natürlich könnte das menschliche Gehirn im Hintergrund eine Art kontinuierliche "Distanzmetrik"-Heuristik verwenden, um Vermutungen anzustellen / Intuition über diesen diskreten kombinatorischen Prozess zu haben. Chollet schlägt vor, dass wir die Fähigkeit entwickeln müssen, damit die KI das kombinatorische Problem (mit abstrahierten Eigenschaften für die Module) in einen latenten Raum mit einer Metrik einbetten kann, um kontinuierliche Optimierungsmethoden zu nutzen, um Lösungen zu finden (d.h. Intuition auszunutzen und brutale Suchmethoden zu vermeiden).