Ba vị trí chính trị mà tôi nghĩ là bị đánh giá thấp nghiêm trọng khi xem xét sự phát triển của AGI: 1. "Cách mạng di truyền" của @nathancofnas - ý tưởng rằng sự thống trị trí tuệ của chủ nghĩa bình đẳng cánh tả phụ thuộc vào sự khác biệt nhận thức giữa các nhóm là điều cấm kỵ - đã rất quan trọng. Nhưng những khác biệt nhận thức hiện có giữa các nhóm thì không thấm vào đâu so với những khác biệt sẽ xuất hiện giữa con người cơ bản và: - những con người tận dụng AI hiệu quả nhất - những con người có giao diện não-máy tính - những con người được chỉnh sửa gen - chính các AI Những khác biệt nhận thức hiện tại đã làm đổ vỡ chính trị; những khác biệt này sẽ làm đổ vỡ nó nhiều hơn nữa. Vì vậy, chúng ta cần chuẩn bị cho một tương lai mà chủ nghĩa bình đẳng như một luận đề thực nghiệm là (thậm chí còn) rõ ràng sai. Tôi vẫn chưa có một tóm tắt ngắn gọn về các hệ quả của vị trí này. Nhưng ít nhất tôi muốn có một cái tên cho nó. Thật khó xử, chúng ta thực sự không có một từ tốt cho "chống bình đẳng". Di truyền học thì quá hẹp (cũng như chủ nghĩa phân cấp) và "tinh hoa" có những ý nghĩa tiêu cực. Ứng cử viên của tôi là "không đối xứng". Chủ nghĩa bình đẳng cố gắng thực thi một loại đối xứng trên toàn bộ xã hội. Nhưng công việc của chúng ta sẽ ngày càng là thiết kế các xã hội mà sự thiếu vắng những đối xứng như vậy là một đặc điểm chứ không phải là một lỗi. 2. Chủ nghĩa bảo hộ. Chủ nghĩa bảo hộ bị đánh giá thấp, vì các thị trường toàn cầu rất hiệu quả. Nhưng chúng không hề mạnh mẽ trong việc chống lại sự đối kháng. Nếu bạn là một quốc gia nhỏ và mở cửa biên giới cho tiền tệ, sản phẩm và công ty của một quốc gia lớn hơn nhiều, thì bạn sẽ trở nên giàu có hơn trong ngắn hạn nhưng cũng sẽ gặp rất nhiều khó khăn trong việc ngăn chặn quốc gia khác đó có được nhiều quyền lực hơn bạn trong dài hạn. (Ví dụ lịch sử, thương mại thường là một yếu tố quan trọng dẫn đến sự mở rộng thuộc địa. Xem thêm cuốn sách xuất sắc của Amy Chua "Thế giới trong lửa", về cách các thị trường tự do cho phép một số thiểu số có được quyền lực không tương xứng.) Khi bạn nghèo đến mức nào đó, hoặc quyền lực lớn hơn đủ nhân từ, điều này có thể là một thỏa thuận tốt! Nhưng chúng ta đang hướng tới một tương lai mà a) hầu hết mọi người trở nên giàu có hơn rất nhiều về mặt tuyệt đối nhờ vào đổi mới do AI thúc đẩy, và b) các AI sẽ nắm giữ rất nhiều quyền lực theo những cách không mấy nhân từ (ví dụ: các công ty tự động đã được giao nhiệm vụ tối đa hóa lợi nhuận). Với điều này, chủ nghĩa bảo hộ bắt đầu trông như một ý tưởng tốt hơn nhiều. Thực tế là nó làm chậm tăng trưởng không phải là một vấn đề, vì xã hội sẽ đã phải đối mặt với tốc độ thay đổi. Và nó cho phép bạn có nhiều quyền kiểm soát hơn đối với các thực thể hoạt động trong biên giới của bạn - ví dụ: bạn có thể giám sát việc sử dụng quyết định AI trong các công ty một cách chặt chẽ hơn. Nói cách khác, trong tương lai, toàn bộ nền kinh tế nhân loại sẽ là "quốc gia nhỏ hơn" phải đối mặt với sự xâm nhập của tiền tệ, sản phẩm và công ty dưới sự kiểm soát của các AI (hoặc con người đã ủy quyền quyền lực cho các AI). Trong chừng mực mà chúng ta muốn giữ quyền kiểm soát, chúng ta không nên để cho mọi người đặt các AI đó ở các thiên đường quy định trong khi vẫn có thể có ảnh hưởng đáng kể đến các quốc gia phương Tây. Được rồi, nhưng các quốc gia bảo hộ sẽ không bị cạnh tranh sao? Không nếu họ bắt đầu với đủ quyền lực để ngăn chặn các quốc gia khác triển khai các AI tìm kiếm quyền lực. Và ngay bây giờ, cường quốc sản xuất lớn nhất thế giới đã khá bảo hộ. Vì vậy, nếu Mỹ cũng đi theo hướng đó, có vẻ như ảnh hưởng kết hợp của Mỹ và Trung Quốc sẽ đủ để ngăn chặn bất kỳ ai khác "phản bội". Điểm nghẽn sẽ là lòng tin giữa hai siêu cường. (Được tiếp tục trong tweet bên dưới.)