人工知能(AIC)は、200年、300年後に解き放たれるはずのテクノロジーのように感じられます。種として、私たちは絶対に準備ができていません。これは、中世の農民に兵器級のウランへのアクセスを与えるようなものだ。 強化学習の背後にある数学とアルゴリズムを理解するのはそれほど難しくなく、行列代数、確率論、微積分を発見した文明であれば、計算でこれを達成できることを意味します。 私たちが学んだのは、私たちがインテリジェンスと呼ぶものは基板に依存せず、コンピューティングで劇的に拡張できるということです。その上限は絶対に誰にもわかりません。 ジョージ・ホッツが、モデル能力に対する予測力を持ち、知能と呼ばれるものが存在するならばそれに対する任意の上限に対する予測力を持つ、まったく新しい科学的探求の分野が必要であると言ったとき、彼は正しい方向にいたと思います。 ASIは、現在の現代社会に対する私たちの概念を破壊します。2100年代の私たちの世界は、私たちが原始人であるかのように私たちを見るでしょう。指数曲線とは、10年から100年かかることを1年で達成するために、毎年進歩が圧縮されることを意味します。 人間の脳は、この環境を処理するようにはできていません。