Bảo hiểm là một cách bị đánh giá thấp để mở khóa sự tiến bộ an toàn của AI. Các công ty bảo hiểm có động lực để định lượng và theo dõi rủi ro một cách trung thực: nếu họ phóng đại rủi ro, họ sẽ bị cạnh tranh; nếu họ đánh giá thấp rủi ro, các khoản chi trả của họ sẽ khiến họ phá sản. 1/9

Lý tưởng nhất, chúng ta nên quản lý AI theo cách mà cả hai: - Thúc đẩy sự phát triển và triển khai AI - Đo lường và ngăn chặn những rủi ro thực sự quan trọng Các công ty bảo hiểm muốn việc áp dụng AI nhanh chóng (họ có thể bán nhiều bảo hiểm AI hơn) -- và tránh những sự cố nghiêm trọng (họ phải trả chi phí)

Trên thực tế, bảo hiểm đã đóng vai trò này cho các làn sóng công nghệ mới trong ít nhất 270 năm: Lửa: Vào những năm 1700, dân số Philadelphia tăng gấp mười lần. Khi thành phố phát triển, các ngôi nhà gỗ được xây dựng gần nhau hơn. Lửa đã tàn phá thành phố. Năm 1752, Benjamin Franklin đã kiểm soát các đám cháy bằng cách tạo ra công ty bảo hiểm cháy đầu tiên của Mỹ. Công ty bảo hiểm có động lực để ngăn chặn cháy nổ - họ đã chi trả cho thiệt hại. Franklin đã tạo ra các quy định xây dựng sớm để thiết kế những ngôi nhà an toàn hơn và thực thi chúng thông qua các cuộc kiểm tra cháy. Việc kiểm soát các đám cháy đã cho phép Philadelphia tiếp tục phát triển. Xe hơi: Ở Mỹ sau chiến tranh, số người chết do tai nạn xe hơi tăng mạnh. Các công ty bảo hiểm xe hơi đã chi trả hóa đơn tài chính. Năm 1959, họ đã thành lập Viện Bảo hiểm An toàn Đường cao tốc. Các công ty bảo hiểm đã phát triển các tiêu chuẩn cho việc thử nghiệm va chạm xe hơi, khuyến khích các nhà sản xuất ô tô phát triển những chiếc xe an toàn hơn. Họ đã tạo ra các động lực tài chính cho việc sử dụng dây an toàn và túi khí trước khi có quy định. Những chiếc xe tốt hơn đã giúp cho xe hơi trở nên phổ biến - và đã giúp cứu hàng trăm nghìn mạng sống. Năng lượng hạt nhân: Năm 1957, Đạo luật Price-Anderson đã tạo ra ngành công nghiệp năng lượng hạt nhân tư nhân ở Mỹ. Ở trung tâm của nó là một kế hoạch bảo hiểm. Nó được thiết kế để cho phép các nhà điều hành hạt nhân vận hành các nhà máy điện rủi ro với sự giám sát của thị trường, đồng thời bảo vệ tài chính cho các nạn nhân trong trường hợp xảy ra tai nạn. Bảo hiểm tư nhân chi trả cho các tai nạn lên đến 16 tỷ đô la trước khi chính phủ can thiệp để bảo vệ các rủi ro thảm khốc. Điều này mang lại cho chính phủ lợi ích từ các tác nhân thị trường tư nhân được khuyến khích tốt, những người giám sát quản lý rủi ro hàng ngày. Quay lại với AI: Thực sự, bảo hiểm có thể cân bằng tiến bộ và an ninh của AI như thế nào?

Đây là nội dung chính: Các công ty bảo hiểm có động lực và quyền lực để buộc các công ty mà họ bảo hiểm phải hành động nhằm ngăn chặn những rủi ro quan trọng. Họ thực thi an ninh thông qua một vòng quay động lực: Các công ty bảo hiểm tạo ra các tiêu chuẩn. Các tiêu chuẩn phác thảo những rủi ro nào là quan trọng và các công ty nên làm gì để ngăn chặn chúng. Các công ty AI muốn được chứng nhận theo các tiêu chuẩn vì điều đó giúp họ tạo dựng niềm tin từ khách hàng và vì nó giúp họ đủ điều kiện để được bảo hiểm - giống như những gì chúng ta thấy trong an ninh mạng ngày nay với SOC 2. Các tiêu chuẩn sau đó đặt ra tiêu chí cho các cuộc kiểm toán. Các công ty bảo hiểm kiểm toán các rủi ro trước khi họ bảo hiểm cho chúng. Họ có quyền truy cập vào thông tin riêng tư để xem liệu các tiêu chuẩn có thực sự được đáp ứng hay không. Các cuộc kiểm toán mang lại sức mạnh cho các tiêu chuẩn trong việc thực thi. Các cuộc kiểm toán lại cho phép các công ty bảo hiểm định giá rủi ro một cách chính xác hơn. Khi họ sai, họ cập nhật các tiêu chuẩn để phản ánh những rủi ro thực tế. Vòng quay này đang nổi bật nhất trong các đại lý AI cho các rủi ro thương mại - nhưng nó cũng mở rộng đến các phòng thí nghiệm và trung tâm dữ liệu cho các rủi ro thảm khốc.

Bánh đà khuyến khích AI đang hình thành: -GitHub đảm bảo khách hàng để giành được niềm tin -Các phòng thí nghiệm đang hợp nhất về Cam kết An toàn, tức là các tiêu chuẩn ban đầu -METR đang thúc đẩy các đánh giá kỹ thuật để cho phép kiểm toán tốt hơn -RAND đặt nền tảng cho các tiêu chuẩn trung tâm dữ liệu