Tôi lo lắng rằng quá nhiều cuộc thảo luận về rủi ro và sự phù hợp của AI đã bỏ qua một vấn đề lớn: sự sáng tạo và tính mở. Các nhà hoạch định chính sách và những người kiểm soát cần hiểu hai lực lượng đối kháng mà không ai dường như nói đến: (1) có một động lực kinh tế khổng lồ cho các phòng thí nghiệm tiên phong để tăng cường sự sáng tạo của các mô hình của họ, và (2) càng cố gắng kiểm soát và hạn chế hành vi của một mô hình (hoặc thậm chí là một người!), nó sẽ càng ít sáng tạo. Sự căng thẳng giữa hai lực lượng đối kháng này cuối cùng nghiêng về #1 vì sự sáng tạo có tiềm năng kinh tế rất lớn. Điều đó có nghĩa là các phương pháp kiểm soát và hạn chế các mô hình (ví dụ: bằng cách làm cho chúng phù hợp) sẽ phải đối mặt với những cản trở mạnh mẽ. Bởi vì sự sáng tạo cuối cùng sẽ chiến thắng chỉ dựa trên cơ sở kinh tế (và thực tế chúng ta có những lợi ích khổng lồ để thu được từ AI sáng tạo), chúng ta nên nhìn nhận ít hơn về các phương pháp "kiểm soát tâm trí" để ép buộc các mô hình nghĩ những gì chúng ta muốn chúng nghĩ (bởi vì chúng ta sẽ không thể duy trì điều đó), và nhiều hơn về cách các lực lượng thể chế đã được sử dụng để giữ cho con người phù hợp trong hành vi mặc dù chúng ta tự do nghĩ theo cách điên rồ mà chúng ta muốn. Đó là các kiểm soát và cân bằng thể chế - các luật lệ, cấu trúc động lực của xã hội, các nhánh chính phủ và quản lý cạnh tranh, việc tận dụng một số người để giám sát những người khác trong các tình huống khác nhau, nhu cầu về sự đồng thuận, phê duyệt hoặc hợp tác để hoàn thành công việc - đã cung cấp các rào cản thực sự chống lại thảm họa giữa con người. Rõ ràng là hệ thống không hoàn hảo, nhưng đó là một tiền lệ cho cách cho phép đủ sự sáng tạo để theo đuổi đổi mới triệt để nhưng vẫn có đủ trật tự để nền văn minh tồn tại hoặc thậm chí phát triển. Nếu chúng ta không coi trọng tiền lệ này, các rào cản của sự phù hợp sẽ ngày càng (và lặng lẽ) rơi ra khi những lợi ích kinh tế của trí tưởng tượng không bị ràng buộc trở nên rõ ràng hơn.