Trí tuệ siêu nhân tạo cảm giác như là một công nghệ mà chúng ta sẽ mở khóa trong 200-300 năm nữa. Là một loài, chúng ta hoàn toàn không sẵn sàng cho điều đó. Điều này giống như việc cho một nông dân thời trung cổ quyền truy cập vào urani vũ khí. Toán học và các thuật toán đằng sau học tăng cường không quá khó để hiểu, có nghĩa là bất kỳ nền văn minh nào đã phát hiện ra đại số ma trận, lý thuyết xác suất và giải tích đều có thể đạt được điều này với tính toán. Những gì chúng ta đã học được là những gì chúng ta gọi là trí tuệ là độc lập với nền tảng và có thể được mở rộng đáng kể với tính toán. Không ai biết giới hạn trên của điều này. Tôi nghĩ George Hotz đã đi đúng hướng khi ông nói rằng cần có một lĩnh vực hoàn toàn mới của nghiên cứu khoa học có khả năng dự đoán về khả năng của mô hình và dự đoán về bất kỳ giới hạn nào mà chúng ta gọi là trí tuệ nếu chúng thậm chí tồn tại. ASI sẽ phá hủy bất kỳ khái niệm nào mà chúng ta có về xã hội hiện đại hiện nay. Thế giới của chúng ta vào những năm 2100 sẽ nhìn chúng ta như thể chúng ta là người nguyên thủy. Các đường cong hàm mũ có nghĩa là mỗi năm tiến bộ được nén lại, đạt được trong 1 năm những gì sẽ mất 10-100 năm. Bộ não con người không được xây dựng để xử lý môi trường này.