我擔心 AI 安全社區對短時間的關注導致其以適得其反的稀缺心態運作。 我更喜歡一種投資組合方法,即個人或多或少地關注與他們的情緒彈性成正比的緊急情況。
我並不是說你應該改變你對可能未來的*信念*,只是說你應該改變你打算改進的可能未來的子集。 專注於短時間場景就像成為第一回應者。大多數人在氣質上不適合它。
具體來說,專注於短期似乎導致了對基礎研究的投資不足、“任何監管都是好的”心態(例如,人們說 SB-1047 是短期監管的“最後機會”)、部落主義/偏執狂(參見 OpenAI 董事會政變)等。
就我個人而言,我專注於我期望在 10+ 年內獲得回報的研究和計劃,部分原因是我的實證信念,但主要是因為我討厭在時間壓力下試圖提出 hacky 解決方案。
其他例子:@leopoldasch 的態勢感知報告是非常稀缺的心態(但他現在經營一家對沖基金不是)。 包括我在內的許多人出於稀缺心態在 OpenAI 呆了太久。 更一般地說,「必須做某事」是一把非常雙刃劍。
22.87K