ثلاثة مواقف سياسية أعتقد أنها تم التقليل من شأنها بشدة نظرا لتطور AGI: 1. "الثورة الوراثية" @nathancofnas - فكرة أن الهيمنة الفكرية للمساواة اليسارية تعتمد على الاختلافات المعرفية الجماعية كونها من المحرمات - مهمة جدا بالفعل. لكن الاختلافات المعرفية للمجموعة الحالية تتضاءل مقارنة بتلك التي ستظهر بين البشر الأساسيين و: - البشر الذين يستفيدون من الذكاء الاصطناعي بشكل أكثر فاعلية - البشر مع واجهات الدماغ والحاسوب - البشر المعدلون وراثيا - الذكاء الاصطناعي نفسه الاختلافات المعرفية الحالية تكسر السياسة بالفعل. هذه سوف تحطمها أكثر من ذلك بكثير. لذلك نحن بحاجة إلى الاستعداد لمستقبل تكون فيه المساواة كأطروحة تجريبية (أكثر من ذلك) خاطئة بشكل واضح. ليس لدي حتى الآن ملخص موجز للآثار المترتبة على هذا الموقف. لكن على الأقل أريد اسما لها. بشكل محرج ، ليس لدينا في الواقع كلمة جيدة ل "مناهضة المساواة". الوراثي ضيق للغاية (كما هو الحال مع التسلسل الهرمي) والنخبوية لها دلالات سيئة. مرشحي هو "غير متماثل". تحاول المساواة فرض نوع من التماثل عبر المجتمع بأكمله. لكن مهمتنا ستكون بشكل متزايد تصميم مجتمعات يكون فيها غياب مثل هذه التماثلات سمة وليس خطأ. 2. الحمائية. تحظى الحمائية بسمعة سيئة ، لأن الأسواق العالمية فعالة للغاية. لكنهم ليسوا أقوياء إلى حد كبير. إذا كنت بلدا صغيرا وفتحت حدودك على العملة والمنتجات والشركات في بلد أكبر بكثير، فسوف تصبح أكثر ثراء على المدى القصير ولكنك تواجه أيضا صعوبة بالغة في منع هذا البلد الآخر من اكتساب الكثير من القوة عليك على المدى الطويل. (كمثال تاريخي ، كانت التجارة في كثير من الأحيان مقدمة مهمة للتوسع الاستعماري. انظر أيضا كتاب إيمي تشوا الممتاز العالم على النار ، حول كيفية تمكين الأسواق الحرة لبعض الأقليات من اكتساب سلطة غير متناسبة.) عندما تكون فقيرا بما فيه الكفاية ، أو تكون القوة الأكبر خيرة بما فيه الكفاية ، فقد تكون هذه صفقة جيدة! لكننا نتجه نحو مستقبل يصبح فيه أ) معظم الناس أكثر ثراء من حيث القيمة المطلقة بسبب الابتكار القائم على الذكاء الاصطناعي ، و ب) سينتهي الأمر بالذكاء الاصطناعي إلى ممارسة الكثير من القوة بطرق غير خيرية للغاية (على سبيل المثال ، الشركات الآلية التي تم منحها هدف تعظيم الأرباح). بالنظر إلى هذا ، تبدأ الحمائية في الظهور كفكرة أفضل بكثير. حقيقة أنه يبطئ النمو ليست مشكلة ، لأن المجتمع سوف يترنح بالفعل من وتيرة التغيير. ويتيح لك التحكم بشكل أكبر في الكيانات التي تعمل داخل حدودك - على سبيل المثال ، يمكنك مراقبة استخدام صنع القرار في مجال الذكاء الاصطناعي داخل الشركات عن كثب. بعبارة أخرى ، سيكون الاقتصاد البشري بأكمله في المستقبل هو "الدولة الأصغر" التي تواجه توغلات بالعملة والمنتجات والشركات الخاضعة لسيطرة الذكاء الاصطناعي (أو البشر الذين فوضوا السلطة للذكاء الاصطناعي). بقدر ما نريد الاحتفاظ بالسيطرة ، يجب ألا نسمح للناس بتأسيس أنظمة الذكاء الاصطناعي هذه في ملاذات تنظيمية بينما لا نزال قادرين على اكتساب تأثير كبير على الدول الغربية. حسنا ، لكن ألن تتفوق الدول الحمائية على المنافسة؟ ليس إذا بدأوا بقوة كافية لردع البلدان الأخرى عن نشر أنظمة الذكاء الاصطناعي الباحثة عن السلطة. وفي الوقت الحالي ، فإن أعظم قوة تصنيعية في العالم هي بالفعل حمائية إلى حد ما. لذلك إذا تحركت الولايات المتحدة في هذا الاتجاه أيضا، فمن المرجح أن يكون النفوذ المشترك للولايات المتحدة والصين كافيا لمنع أي شخص آخر من "الانشقاق". سيكون عنق الزجاجة هو الثقة بين القوتين العظميين. (تابع في التغريدة أدناه.)