Меня беспокоит, что сосредоточение сообщества по безопасности ИИ на коротких сроках приводит к тому, что оно действует в контрпродуктивном мышлении дефицита. Я бы предпочел подход с портфелем, где люди сосредотачиваются на более или менее срочных сценариях в зависимости от того, насколько они эмоционально устойчивы.

Я не говорю, что вам следует менять свои *убеждения* о возможных будущих событиях, просто вам стоит изменить тот подмножество возможных будущих событий, на которое вы нацелены для улучшения. Сосредоточение на сценариях с коротким временным горизонтом похоже на работу первоочередного спасателя. Большинство людей не подходят для этого по своему темпераменту.

Конкретно, сосредоточение на коротких временных рамках, похоже, приводит к недостаточным инвестициям в фундаментальные исследования, к мышлению "любая регуляция хороша" (например, люди говорят, что SB-1047 был "последним шансом" для регуляции в короткие сроки), племенности/паранойе (см. переворот в правлении OpenAI) и т.д.

Лично я сосредоточен на исследованиях и планах, которые, как я ожидаю, окупятся в первую очередь через 10 и более лет, отчасти из-за моих эмпирических убеждений, но в основном потому, что я ненавижу пытаться придумывать хитрые решения под давлением времени.

Другие примеры: отчет @leopoldasch о ситуационной осведомленности был очень в духе мышления дефицита (но то, что он сейчас управляет хедж-фондом, не так). Многие люди, включая меня, слишком долго оставались в OpenAI из-за мышления дефицита. В более общем смысле "*что-то* должно быть сделано" — это очень двусмысленный меч.