我担心人工智能安全社区对短期时间表的关注使其在一种适得其反的稀缺心态中运作。 我更倾向于一种投资组合方法,让个人根据他们的情感韧性,专注于更或更少紧迫的情境。
我并不是说你应该改变对可能未来的*信念*,只是说你应该改变你希望改善的可能未来的子集。 专注于短期情景就像是成为一名急救人员。大多数人并不适合这种性格。
具体来说,关注短期时间表似乎导致了对基础研究的投资不足,以及一种“任何监管都是好的”心态(例如,人们说SB-1047是短期监管的“最后机会”),部落主义/偏执(参见OpenAI董事会政变)等。
我个人专注于研究和计划,我预计这些将在10年以上的时间内获得回报,部分是因为我的经验信念,但主要是因为我讨厌在时间压力下想出临时的解决方案。
其他例子:@leopoldasch 的情境意识报告非常体现了稀缺心态(但他现在经营对冲基金就不是了)。 包括我在内的许多人因为稀缺心态在 OpenAI 待得太久了。 更一般来说,“*某事*必须被做”是把双刃剑。
22.87K