L'Intelligenza Superiore Artificiale sembra essere una tecnologia che dovremmo sbloccare tra 200-300 anni. Come specie, non siamo assolutamente pronti per questo. Sembra come dare a un contadino medievale accesso all'uranio di grado armato. La matematica e gli algoritmi dietro l'apprendimento per rinforzo non sono incredibilmente difficili da comprendere, il che significa che qualsiasi civiltà che ha scoperto l'algebra matriciale, la teoria della probabilità e il calcolo potrebbe raggiungere questo obiettivo con il calcolo. Ciò che abbiamo appreso è che ciò che chiamiamo intelligenza è indipendente dal substrato e può essere scalata in modo drammatico con il calcolo. Nessuno conosce i limiti superiori di questo. Penso che George Hotz fosse sulla strada giusta quando ha detto che è necessario un intero nuovo campo di indagine scientifica che abbia potere predittivo sulla capacità di un modello e previsioni su eventuali limiti superiori di ciò che chiamiamo intelligenza, se esistono. L'ASI distruggerà qualsiasi nozione abbiamo della società moderna attuale. Il nostro mondo negli anni 2100 ci guarderà come se fossimo uomini primitivi. Le curve esponenziali significano che ogni anno il progresso si comprime, raggiungendo in 1 anno ciò che richiederebbe 10-100 anni. Il cervello umano non è costruito per gestire questo ambiente.