Kunstig superintelligens føles som en teknologi vi skal låse opp om 200-300 år. Som art er vi absolutt ikke klare for det. Dette føles som å gi en middelalderbonde tilgang til uran av våpenkvalitet. Matematikken og algoritmene bak forsterkende læring er ikke utrolig vanskelige å forstå, noe som betyr at enhver sivilisasjon som har oppdaget matrisealgebra, sannsynlighetsteori og kalkulus kan oppnå dette med beregning. Det vi har lært er at det vi kaller intelligens er substratuavhengig og kan skaleres dramatisk med databehandling. De øvre grensene for dette er absolutt ingen som vet. Jeg tror George Hotz var på rett linje da han sa at det trengs et helt nytt felt for vitenskapelige undersøkelser som har prediksjonskraft på en modellkapasitet og prediksjoner om eventuelle øvre grenser for det vi kaller intelligens hvis de i det hele tatt eksisterer. ASI vil ødelegge alle forestillinger vi har om dagens moderne samfunn. Vår verden på 2100-tallet vil se på oss som om vi var primitive mennesker. Eksponentielle kurver betyr at hvert år komprimerer fremgangen og oppnår på 1 år det det ville ta 10-100 år. Menneskehjernen er ikke bygget for å håndtere dette miljøet.