人工超智能感覺像是一項我們應該在200到300年內解鎖的技術。作為一個物種，我們絕對還沒有準備好。這就像是給一個中世紀的農民接觸武器級鈾。 強化學習背後的數學和算法並不難以理解，這意味著任何發現矩陣代數、概率論和微積分的文明都可以通過計算來實現這一點。 我們所學到的是，我們所稱的智能是基於基質的獨立的，並且可以通過計算大幅擴展。這一點的上限絕對沒有人知道。 我認為喬治·霍茲（George Hotz）在他說需要一個全新的科學研究領域，該領域對模型的能力和對我們所稱的智能的任何上限的預測有預測能力時，是在正確的方向上。 ASI將摧毀我們對當前現代社會的任何概念。我們在2100年代的世界將會看著我們，彷彿我們是原始人。指數曲線意味著每年進步的壓縮，使得在1年內實現10到100年才能達成的成就。 人類大腦並不是為了應對這種環境而構建的。