L'assicurazione è un modo sottovalutato per sbloccare un progresso sicuro nell'IA. Le compagnie assicurative sono incentivati a quantificare e monitorare i rischi in modo veritiero: se esagerano i rischi, vengono superati dalla concorrenza; se sottovalutano i rischi, i loro pagamenti li portano al fallimento. 1/9

Idealmente, dovremmo governare l'IA in un modo che: - Accelera lo sviluppo e l'implementazione dell'IA - Quantifica e previene i rischi che contano davvero Le compagnie assicurative vogliono una rapida adozione dell'IA (possono vendere più assicurazioni per l'IA) -- e per evitare incidenti gravi (loro pagano il conto)

In effetti, l'assicurazione ha svolto questo ruolo per le nuove onde tecnologiche per almeno 270 anni: Incendi: Nel 1700, la popolazione di Filadelfia è cresciuta di dieci volte. Con la crescita della città, le case di legno sono state costruite più vicine. Gli incendi hanno devastato la città. Nel 1752, Benjamin Franklin ha domato gli incendi creando il primo assicuratore contro gli incendi in America. L'assicuratore aveva un interesse diretto a prevenire gli incendi - pagava per i danni. Franklin ha creato i primi codici edilizi per progettare case più sicure e li ha fatti rispettare attraverso ispezioni antincendio. Domare gli incendi ha permesso a Filadelfia di continuare a crescere. Auto: Nell'America del dopoguerra, le morti per incidenti stradali sono aumentate drasticamente. Gli assicuratori auto hanno coperto il costo finanziario. Nel 1959, hanno creato l'Istituto di Assicurazione per la Sicurezza Stradale. Gli assicuratori hanno sviluppato standard per i test di collisione delle auto che hanno incentivato i produttori di automobili a sviluppare auto più sicure. Hanno creato incentivi finanziari per l'adozione delle cinture di sicurezza e degli airbag prima che arrivassero le normative. Auto migliori hanno reso sicuro l'uso comune delle automobili - e hanno contribuito a salvare centinaia di migliaia di vite. Energia nucleare: Nel 1957, il Price-Anderson Act ha creato l'industria privata dell'energia nucleare in America. Al suo centro c'è uno schema assicurativo. È stato progettato per rendere possibile ai gestori nucleari di gestire impianti di energia rischiosi con supervisione di mercato, proteggendo finanziariamente le vittime in caso di incidente. L'assicurazione privata copre gli incidenti fino a 16 miliardi di dollari prima che un sostegno governativo intervenga per coprire i rischi catastrofici. Questo offre al governo il vantaggio di attori privati ben incentivati che supervisionano la gestione quotidiana del rischio. Tornando all'IA: Come, esattamente, potrebbe l'assicurazione bilanciare il progresso dell'IA e la sicurezza?

Ecco il succo: Le compagnie assicurative hanno incentivi e potere per far sì che le aziende che assicurano prendano provvedimenti per prevenire i rischi che contano. Fanno rispettare la sicurezza attraverso un volano di incentivi: Le compagnie assicurative creano standard. Gli standard delineano quali rischi sono importanti e cosa dovrebbero fare le aziende per prevenirli. Le aziende di intelligenza artificiale vogliono certificarsi secondo gli standard perché questo aiuta a guadagnare fiducia dai loro clienti e perché le rende idonee per l'assicurazione - proprio come vediamo oggi nella sicurezza informatica con il SOC 2. Gli standard poi stabiliscono il livello per le verifiche. Le compagnie assicurative verificano i rischi prima di assicurarli. Ottengono accesso a informazioni riservate per vedere se gli standard sono effettivamente rispettati. Le verifiche danno forza agli standard per l'applicazione. Le verifiche a loro volta permettono alle compagnie assicurative di valutare il rischio in modo più accurato. Quando sbagliano, aggiornano gli standard per riflettere i rischi reali. Questo volano sta emergendo più chiaramente negli agenti di intelligenza artificiale per i rischi commerciali - ma si estende a laboratori e centri dati per i rischi catastrofici.

Il volano degli incentivi AI sta emergendo: -GitHub assicura ai clienti di guadagnare fiducia -I laboratori si stanno unendo sugli impegni di sicurezza, ovvero standard iniziali -METR sta spingendo le valutazioni tecniche per abilitare audit migliori -RAND stabilisce una base per gli standard dei data center