Sono preoccupato che il focus della comunità sulla sicurezza dell'IA su orizzonti temporali brevi stia causando un'operatività in una mentalità di scarsità controproducente. Preferirei un approccio di portafoglio in cui gli individui si concentrano su scenari più o meno urgenti in proporzione a quanto siano emotivamente resilienti.

Non sto dicendo che dovresti cambiare le tue *credenze* sui possibili futuri, solo che dovresti cambiare quale sottoinsieme di futuri possibili stai cercando di migliorare. Concentrarsi su scenari a breve termine è come essere un primo soccorritore. La maggior parte delle persone non è adatta a questo per temperamento.

Concretamente, concentrarsi su scadenze brevi sembra portare a un sottoinvestimento nella ricerca fondamentale, una mentalità del tipo "qualsiasi regolamentazione è buona" (ad esempio, persone che dicono che SB-1047 era l'"ultima possibilità" per una regolamentazione su scadenze brevi), tribalismo/paranoia (vedi colpo di stato nel consiglio di openai) ecc.

Personalmente mi sto concentrando su ricerche e piani che mi aspetto diano i loro frutti principalmente dopo 10+ anni, in parte a causa delle mie convinzioni empiriche, ma soprattutto perché odio cercare di trovare soluzioni improvvisate sotto pressione.

Altri esempi: il report sulla Consapevolezza Situazionale di @leopoldasch era molto influenzato dalla mentalità di scarsità (ma lui ora che gestisce un hedge fund non lo è). Molte persone, me compreso, sono rimaste in OpenAI troppo a lungo a causa della mentalità di scarsità. Più in generale, "*qualcosa* deve essere fatto" è una spada a doppio taglio.