Ba vị trí chính trị mà tôi nghĩ là bị đánh giá thấp nghiêm trọng khi xem xét sự phát triển của AGI: 1. "Cách mạng di truyền" của @nathancofnas - ý tưởng rằng sự thống trị trí tuệ của chủ nghĩa bình đẳng cánh tả phụ thuộc vào sự khác biệt nhận thức giữa các nhóm là điều cấm kỵ - đã rất quan trọng. Nhưng những khác biệt nhận thức hiện có giữa các nhóm thì không thấm vào đâu so với những khác biệt sẽ xuất hiện giữa con người cơ bản và: - những con người tận dụng AI hiệu quả nhất - những con người có giao diện não-máy tính - những con người được chỉnh sửa gen - chính các AI Những khác biệt nhận thức hiện tại đã làm đổ vỡ chính trị; những khác biệt này sẽ làm đổ vỡ nó nhiều hơn nữa. Vì vậy, chúng ta cần chuẩn bị cho một tương lai mà chủ nghĩa bình đẳng như một luận đề thực nghiệm là (thậm chí còn) rõ ràng sai. Tôi vẫn chưa có một tóm tắt ngắn gọn về các hệ quả của vị trí này. Nhưng ít nhất tôi muốn có một cái tên cho nó. Thật khó xử, chúng ta thực sự không có một từ tốt cho "chống bình đẳng". Di truyền học thì quá hẹp (cũng như chủ nghĩa phân cấp) và "tinh hoa" có những ý nghĩa tiêu cực. Ứng cử viên của tôi là "không đối xứng". Chủ nghĩa bình đẳng cố gắng thực thi một loại đối xứng trên toàn bộ xã hội. Nhưng công việc của chúng ta sẽ ngày càng là thiết kế các xã hội mà sự thiếu vắng những đối xứng như vậy là một đặc điểm chứ không phải là một lỗi. 2. Chủ nghĩa bảo hộ. Chủ nghĩa bảo hộ bị đánh giá thấp, vì các thị trường toàn cầu rất hiệu quả. Nhưng chúng không hề mạnh mẽ trong việc chống lại sự đối kháng. Nếu bạn là một quốc gia nhỏ và mở cửa biên giới cho tiền tệ, sản phẩm và công ty của một quốc gia lớn hơn nhiều, thì bạn sẽ trở nên giàu có hơn trong ngắn hạn nhưng cũng sẽ gặp rất nhiều khó khăn trong việc ngăn chặn quốc gia khác đó có được nhiều quyền lực hơn bạn trong dài hạn. (Ví dụ lịch sử, thương mại thường là một yếu tố quan trọng dẫn đến sự mở rộng thuộc địa. Xem thêm cuốn sách xuất sắc của Amy Chua "Thế giới trong lửa", về cách các thị trường tự do cho phép một số thiểu số có được quyền lực không tương xứng.) Khi bạn nghèo đến mức nào đó, hoặc quyền lực lớn hơn đủ nhân từ, điều này có thể là một thỏa thuận tốt! Nhưng chúng ta đang hướng tới một tương lai mà a) hầu hết mọi người trở nên giàu có hơn rất nhiều về mặt tuyệt đối nhờ vào đổi mới do AI thúc đẩy, và b) các AI sẽ nắm giữ rất nhiều quyền lực theo những cách không mấy nhân từ (ví dụ: các công ty tự động đã được giao nhiệm vụ tối đa hóa lợi nhuận). Với điều này, chủ nghĩa bảo hộ bắt đầu trông như một ý tưởng tốt hơn nhiều. Thực tế là nó làm chậm tăng trưởng không phải là một vấn đề, vì xã hội sẽ đã phải đối mặt với tốc độ thay đổi. Và nó cho phép bạn có nhiều quyền kiểm soát hơn đối với các thực thể hoạt động trong biên giới của bạn - ví dụ: bạn có thể giám sát việc sử dụng quyết định AI trong các công ty một cách chặt chẽ hơn. Nói cách khác, trong tương lai, toàn bộ nền kinh tế nhân loại sẽ là "quốc gia nhỏ hơn" phải đối mặt với sự xâm nhập của tiền tệ, sản phẩm và công ty dưới sự kiểm soát của các AI (hoặc con người đã ủy quyền quyền lực cho các AI). Trong chừng mực mà chúng ta muốn giữ quyền kiểm soát, chúng ta không nên để cho mọi người đặt các AI đó ở các thiên đường quy định trong khi vẫn có thể có ảnh hưởng đáng kể đến các quốc gia phương Tây. Được rồi, nhưng các quốc gia bảo hộ sẽ không bị cạnh tranh sao? Không nếu họ bắt đầu với đủ quyền lực để ngăn chặn các quốc gia khác triển khai các AI tìm kiếm quyền lực. Và ngay bây giờ, cường quốc sản xuất lớn nhất thế giới đã khá bảo hộ. Vì vậy, nếu Mỹ cũng đi theo hướng đó, có vẻ như ảnh hưởng kết hợp của Mỹ và Trung Quốc sẽ đủ để ngăn chặn bất kỳ ai khác "phản bội". Điểm nghẽn sẽ là lòng tin giữa hai siêu cường. (Được tiếp tục trong tweet bên dưới.)

3. Chủ nghĩa bảo thủ quốc gia Tất cả những điều trên đều dựa trên mục tiêu bảo vệ lợi ích của con người trong một thế giới có những tác nhân mạnh mẽ hơn nhiều. Điều này vốn dĩ là một loại bảo thủ, và một điều mà chúng ta không nên coi là hiển nhiên. Phái cánh hữu công nghệ thường sử dụng ngôn ngữ của "chiến thắng", nhưng như tôi đã quan sát trước đây, sẽ ngày càng có sự khác biệt lớn giữa một *quốc gia* chiến thắng và *công dân* của nó chiến thắng. Trong giới hạn, một quốc gia hoàn toàn tự động có thể phát triển thịnh vượng về kinh tế và chính trị mà không thực sự mang lại lợi ích cho bất kỳ con người nào bên trong nó. Chủ nghĩa bảo thủ quốc gia vẽ ra một ranh giới xung quanh một nhóm người và nói rằng "đây là những người mà chúng tôi chủ yếu quan tâm đến lợi ích của họ". Như Vance đã nói, nước Mỹ là một nhóm người có lịch sử chung và một tương lai chung. Nếu mất đi tầm nhìn đó, các lập luận về hiệu quả và năng suất sẽ cuối cùng biến nó thành một sân khấu cho sự đơn nhất. (Cũng không thể điều hành một quốc gia vì lợi ích của "tất cả con người", vì như vậy bạn sẽ rơi vào mối quan hệ đối kháng với chính công dân của mình, những người hoàn toàn đúng khi muốn các nhà lãnh đạo ưu tiên cho họ.) Chính phủ Trung Quốc có nhiều khuyết điểm, nhưng họ làm đúng phần này. Họ là một quốc gia do chính người dân của họ điều hành vì lợi ích của chính người dân họ. Là một phần của điều đó, họ không chỉ bảo vệ kinh tế mà còn bảo vệ văn hóa - chặn các ý tưởng nước ngoài không cho có cơ hội phát triển trên internet của họ. Tôi không nghĩ đây là một cách tiếp cận tốt cho phương Tây, nhưng tôi nghĩ chúng ta nên cố gắng phát triển một tương đương không cưỡng chế: các cơ chế mà một quốc gia có thể có cuộc trò chuyện với chính mình về những gì nó nên coi trọng và nơi nó nên đi, với các ý tưởng được nâng cao khi những người đề xuất có "da trong trò chơi". Nếu không, những người có ảnh hưởng hùng biện và thuyết phục nhất sẽ chỉ là các AI. Tất cả những ý tưởng này đều rất cao cấp, nhưng chúng cung cấp một phác thảo về lý do tại sao tôi nghĩ chính trị cánh hữu là phù hợp nhất để đối phó với sự trỗi dậy của AI. Còn rất nhiều việc phải làm để phát triển chúng.

Đây là một bài nói chuyện mà tôi đã trình bày về những ý tưởng liên quan đến những điều ở điểm 1.