Je suis préoccupé par le fait que l'accent mis par la communauté de la sécurité de l'IA sur des délais courts l'amène à fonctionner dans un état d'esprit de rareté contre-productif. Je préférerais une approche de portefeuille où les individus se concentrent sur des scénarios plus ou moins urgents en fonction de leur résilience émotionnelle.

Je ne dis pas que vous devriez changer vos *croyances* sur les futurs possibles, juste que vous devriez changer quel sous-ensemble de futurs possibles vous visez à améliorer. Se concentrer sur des scénarios à court terme, c'est comme être un premier intervenant. La plupart des gens ne sont pas tempéramentellement adaptés à cela.

Concrètement, se concentrer sur des délais courts semble entraîner un sous-investissement dans la recherche fondamentale, un état d'esprit du type "toute réglementation est bonne" (par exemple, des gens disant que le SB-1047 était la "dernière chance" pour une réglementation sur des délais courts), le tribalisme/paranoïa (voir le coup d'État au conseil d'OpenAI), etc.

Personnellement, je me concentre sur la recherche et les plans dont j'attends qu'ils portent leurs fruits principalement sur 10 ans ou plus, en partie à cause de mes croyances empiriques, mais surtout parce que je déteste essayer de trouver des solutions bricolées sous pression.

D'autres exemples : le rapport de sensibilisation situationnelle de @leopoldasch était très axé sur la mentalité de rareté (mais le fait qu'il dirige maintenant un fonds spéculatif ne l'est pas). Beaucoup de gens, y compris moi-même, sont restés trop longtemps chez OpenAI à cause de cette mentalité de rareté. Plus généralement, "*quelque chose* doit être fait" est une épée à double tranchant.