Tôi lo ngại rằng sự tập trung của cộng đồng an toàn AI vào các thời gian ngắn đang khiến nó hoạt động trong một tâm lý khan hiếm không hiệu quả. Tôi thích một cách tiếp cận danh mục đầu tư, nơi các cá nhân tập trung vào các kịch bản khẩn cấp hơn hoặc ít khẩn cấp hơn tùy thuộc vào mức độ kiên cường về mặt cảm xúc của họ.

Tôi không nói rằng bạn nên thay đổi *niềm tin* của mình về những tương lai có thể xảy ra, chỉ là bạn nên thay đổi tập hợp các tương lai có thể mà bạn đang cố gắng cải thiện. Tập trung vào các kịch bản ngắn hạn giống như là một người phản ứng đầu tiên. Hầu hết mọi người không có tính cách phù hợp với điều đó.

Cụ thể, việc tập trung vào các khoảng thời gian ngắn dường như đang dẫn đến việc đầu tư không đủ vào nghiên cứu cơ bản, một tư duy "bất kỳ quy định nào cũng tốt" (ví dụ: mọi người nói rằng SB-1047 là "cơ hội cuối cùng" cho quy định trong các khoảng thời gian ngắn), chủ nghĩa bộ lạc/nỗi lo sợ (xem cuộc đảo chính hội đồng OpenAI) v.v.

Cá nhân tôi đang tập trung vào nghiên cứu và kế hoạch mà tôi kỳ vọng sẽ mang lại lợi ích chủ yếu trong hơn 10 năm, một phần vì những niềm tin thực nghiệm của tôi, nhưng chủ yếu vì tôi ghét phải tìm ra những giải pháp tạm bợ dưới áp lực thời gian.

Các ví dụ khác: Báo cáo Nhận thức Tình huống của @leopoldasch rất mang tư duy khan hiếm (nhưng việc anh ấy hiện đang điều hành một quỹ đầu tư thì không). Nhiều người, bao gồm cả tôi, đã ở lại OpenAI quá lâu vì tư duy khan hiếm. Nói chung, "*cái gì đó* phải được thực hiện" là một con dao hai lưỡi.