Kunstmatige superintelligentie voelt als een technologie die we over 200-300 jaar zouden moeten ontgrendelen. Als soort zijn we absoluut niet klaar voor deze technologie. Dit voelt als het geven van toegang tot wapensgraad uranium aan een middeleeuwse boer. De wiskunde en algoritmen achter versterkend leren zijn niet ongelooflijk moeilijk te begrijpen, wat betekent dat elke beschaving die matrixalgebra, waarschijnlijkheidstheorie en calculus heeft ontdekt, dit kan bereiken met rekenkracht. Wat we hebben geleerd is dat wat we intelligentie noemen, substraat onafhankelijk is en dramatisch kan worden opgeschaald met rekenkracht. De bovengrenzen hiervan weet absoluut niemand. Ik denk dat George Hotz op de juiste weg was toen hij zei dat er een geheel nieuw vakgebied van wetenschappelijk onderzoek nodig is dat voorspellende kracht heeft over de mogelijkheden van een model en voorspellingen over eventuele bovengrenzen van wat we intelligentie noemen, als die überhaupt bestaan. ASI zal elke opvatting die we hebben over de huidige moderne samenleving vernietigen. Onze wereld in de jaren 2100 zal naar ons kijken alsof we primitieve mensen waren. Exponentiële curves betekenen dat de vooruitgang elk jaar wordt samengeperst, waardoor we in 1 jaar bereiken wat normaal 10-100 jaar zou duren. De menselijke hersenen zijn niet gebouwd om deze omgeving aan te kunnen.