أشعر بالقلق من أن الكثير من النقاش حول مخاطر الذكاء الاصطناعي والمحاذاة يتجاهل الكبير إلى حد ما في الغرفة: الإبداع والانفتاح. يحتاج صانعو السياسات وحراس البوابات إلى فهم قوتين متنافستين لا يبدو أن أحدا يتحدث عنهما: (1) هناك حافز اقتصادي هائل للمختبرات الحدودية لتعزيز إبداع نماذجها ، و (2) كلما حاولت التحكم في سلوك النموذج (أو حتى الشخص!) وتقييده، كلما كان أقل إبداعا. التوتر بين هذه القوى المتنافسة يفضل # 1 في النهاية لأن الإبداع لديه إمكانات اقتصادية هائلة. وهذا يعني أن طرق التحكم في النماذج وتقييدها (على سبيل المثال عن طريق محاذاتها) تواجه رياحا معاكسة قوية تلوح في الأفق. نظرا لأن الإبداع سيفوز في النهاية على أسس اقتصادية وحدها (ولدينا بالفعل فوائد هائلة يمكن جنيها من الذكاء الاصطناعي الإبداعي) ، يجب أن ننظر بشكل أقل في طرق "التحكم في العقل" لتفكير النماذج في التفكير في الأفكار التي نريدهم أن يفكروا فيها (لأننا سنتخلى عنها حتما) ، وأكثر في كيفية توظيف القوى المؤسسية للحفاظ على توافق البشر في السلوك على الرغم من أننا أحرار في التفكير بعنف كما نريد. إن الضوابط والتوازنات المؤسسية - القوانين ، وهياكل الحوافز للمجتمع ، والفروع المتنافسة للحكومة والحوكمة ، والاستفادة من بعض الأشخاص لتوفير الإشراف على الآخرين في مواقف مختلفة ، والحاجة إلى القبول أو الموافقة أو التعاون لإنجاز الأمور - هي التي توفر حواجز الحماية الحقيقية ضد الكوارث بين البشر. من الواضح أن النظام غير كامل ، لكنه سابقة لكيفية السماح بالإبداع الكافي لمتابعة الابتكار الجذري ولكن لا يزال لديه ما يكفي من النظام للحضارة للاستمرار أو حتى الازدهار. إذا لم نأخذ هذه السابقة على محمل الجد ، فإن حواجز حماية المحاذاة سوف تسقط بشكل متزايد (وبهدوء) حيث تصبح الثمار الاقتصادية للخيال غير المقيد أكثر وضوحا ووضوحا.