Incredible podcast met @demishassabis, de CEO van Google DeepMind, met @lexfridman Enkele rauwe menselijke notities over mijn favoriete delen - 50% kans op AGI tegen 2030. Ongelijke intelligentie werkt niet. Consistentie van intelligentie over de hele linie is nodig (creatieve, uitvinder capaciteiten). - Gemini’s VEO3 videomodel is ongelooflijk goed in natuurkunde en realisme (verlichting, materialen, vloeistoffen) ondanks dat het geen vorm heeft in de echte wereld. Het heeft natuurkunde begrepen door observatie en dit wijst op een dieper begrip van onze wereld. - AlphaEvolve van DeepMind evolueert algoritmen. AI/LLMs werken samen met evolutionaire algoritmen (biologisch geïnspireerde optimalisatie: iteratief evolueren van populaties naar hogere geschiktheid via operaties die natuurlijke selectie nabootsen) - Smaak (Wat is het juiste experiment of de juiste vraag) en oordeel zullen extreem moeilijk te vangen zijn met AI. Systemen kunnen dit vandaag de dag niet. - Noam Shazeer (Transformers), David Silver (AlphaGO), Demis is vrij duidelijk dat hij denkt dat Google het beste AI-talent heeft. “Het is moeilijker om dingen uit te vinden dan snel te volgen”. De meeste originele AI-doorbraken zijn via Google geweest. - Hij denkt niet dat we zonder data komen te zitten om te trainen. - Fusie en zonne-energie zijn de belangrijkste energiebronnen voor AI. Batterijen en transmissie zijn de kernproblemen. - Het lijkt zeer onwaarschijnlijk dat tekst de gebruikersinterface zal zijn met meerdere modaliteit AI. Verwacht AI-gegeneerde interfaces afgestemd op hoe ieders brein werkt. - Benchmarkresultaten zijn moeilijk omdat als je voor het ene gebied optimaliseert, een ander verzwakt, het is een zeer moeilijke balans. Eindgebruikers zijn de uiteindelijke scheidsrechters (Lex zei dit laatste deel, maar ik vond het leuk) - Demis zegt dat Meta niet aan de voorhoede staat, maar achterloopt, dus te veel betaalt voor talent om in te halen. - AGI is de belangrijkste technologie die ooit zal worden uitgevonden. - Mensen die AI omarmen en één worden met hen, zullen super menselijk productief worden. - Het belangrijkste is om meer overvloed aan middelen te creëren, zodat dit geen nul-som situatie is.