Asuransi adalah cara yang diremehkan untuk membuka kemajuan AI yang aman. Perusahaan asuransi diberi insentif untuk mengukur dan melacak risiko dengan jujur: jika mereka melebih-lebihkan risiko, mereka akan kalah bersaing; Jika mereka meremehkan risiko, pembayaran mereka membuat mereka bangkrut. 1/9

Idealnya, kami akan mengatur AI dengan cara yang: - Mempercepat pengembangan dan penerapan AI - Mengukur dan mencegah risiko yang benar-benar penting Perusahaan asuransi menginginkan adopsi AI yang cepat (mereka dapat menjual lebih banyak asuransi AI) -- dan untuk menghindari insiden serius (mereka membayar tagihan)

Faktanya, asuransi telah memainkan peran ini untuk gelombang teknologi baru setidaknya selama 270 tahun: Kebakaran: Pada tahun 1700-an, populasi Philadelphia tumbuh sepuluh kali lipat. Seiring pertumbuhan kota, rumah-rumah kayu menjadi lebih dekat. Api menghancurkan kota. Pada tahun 1752, Benjamin Franklin menjinakkan kebakaran dengan menciptakan perusahaan asuransi kebakaran pertama di Amerika. Perusahaan asuransi memiliki kulit dalam permainan untuk mencegah kebakaran - mereka membayar kerusakan. Franklin menciptakan kode bangunan awal untuk merancang rumah yang lebih aman, dan menegakkannya melalui inspeksi kebakaran. Menjinakkan kebakaran memungkinkan Philadelphia untuk terus berkembang. Mobil: Di Amerika pascaperang, kematian akibat kecelakaan mobil meningkat tajam. Perusahaan asuransi mobil membayar tagihan keuangan. Pada tahun 1959, mereka mendirikan Institut Asuransi Keselamatan Jalan Raya. Perusahaan asuransi mengembangkan standar untuk pengujian tabrakan mobil yang memberi insentif kepada produsen mobil untuk mengembangkan mobil yang lebih aman. Mereka menciptakan insentif keuangan untuk adopsi sabuk pengaman dan kantung udara sebelum peraturan masuk. Mobil yang lebih baik membuatnya aman bagi mobil untuk menjadi hal biasa - dan membantu menyelamatkan ratusan ribu nyawa. Energi nuklir: Pada tahun 1957, Undang-Undang Price-Anderson menciptakan industri energi nuklir swasta di Amerika. Intinya adalah skema asuransi. Ini dirancang untuk memungkinkan operator nuklir menjalankan pembangkit listrik berisiko dengan pengawasan pasar, sambil melindungi korban secara finansial jika terjadi kecelakaan. Asuransi swasta mencakup kecelakaan hingga $ 16 miliar sebelum backstop pemerintah dimulai untuk menutupi risiko bencana. Hal ini memberi pemerintah manfaat dari pelaku pasar swasta yang diberi insentif yang mengawasi manajemen risiko sehari-hari. Kembali ke AI: Bagaimana tepatnya asuransi bisa menyeimbangkan kemajuan dan keamanan AI?

Inilah intinya: Perusahaan asuransi memiliki insentif dan kekuatan untuk menegakkan bahwa perusahaan yang mereka suransikan mengambil tindakan untuk mencegah risiko yang penting. Mereka menegakkan keamanan melalui roda gila insentif: Perusahaan asuransi membuat standar. Standar menguraikan risiko mana yang penting dan apa yang harus dilakukan perusahaan untuk mencegahnya. Perusahaan AI ingin mensertifikasi berdasarkan standar karena membantu mereka mendapatkan kepercayaan dari pelanggan mereka dan karena membuat mereka memenuhi syarat untuk asuransi - seperti yang kita lihat dalam keamanan siber saat ini dengan SOC 2. Standar kemudian menetapkan standar untuk audit. Perusahaan asuransi mengaudit risiko sebelum mereka mengasuransikan. Mereka mendapatkan akses ke informasi pribadi sehingga mereka dapat melihat apakah standar tersebut benar-benar terpenuhi. Audit memberikan standar gigi untuk penegakan hukum. Audit pada gilirannya memungkinkan perusahaan asuransi menentukan harga risiko dengan lebih akurat. Ketika mereka salah, mereka memperbarui standar untuk mencerminkan risiko nyata. Roda gila ini paling jelas muncul dalam agen AI untuk risiko komersial - tetapi meluas ke laboratorium dan pusat data untuk risiko bencana.

Roda gila insentif AI muncul: -GitHub mengasuransikan pelanggan untuk memenangkan kepercayaan -Laboratorium menyatu pada Komitmen Keselamatan, yaitu standar awal -METR mendorong evaluasi teknis untuk memungkinkan audit yang lebih baik -RAND menetapkan dasar untuk standar pusat data