El seguro es una forma subestimada de desbloquear el progreso seguro de la IA. Los aseguradores están incentivados a cuantificar y rastrear riesgos de manera veraz: si exageran los riesgos, son superados por la competencia; si subestiman los riesgos, sus pagos los llevan a la quiebra. 1/9

Idealmente, gobernaríamos la IA de una manera que: - Acelere el desarrollo y la implementación de la IA - Cuantifique y prevenga los riesgos que realmente importan Los aseguradores quieren una rápida adopción de la IA (pueden vender más seguros de IA) y evitar incidentes graves (ellos pagan la factura)

De hecho, el seguro ha desempeñado este papel para las nuevas olas de tecnología durante al menos 270 años: Fuego: En el siglo XVIII, la población de Filadelfia creció diez veces. A medida que la ciudad crecía, las casas de madera se agrupaban más estrechamente. El fuego devastó la ciudad. En 1752, Benjamin Franklin controló los incendios al crear el primer asegurador de incendios de América. El asegurador tenía interés en prevenir incendios: pagaban por los daños. Franklin creó los primeros códigos de construcción para diseñar casas más seguras y los hizo cumplir a través de inspecciones de incendios. Controlar los incendios permitió que Filadelfia continuara creciendo. Coches: En la América de la posguerra, las muertes por accidentes de coche aumentaron drásticamente. Los aseguradores de coches pagaron la factura financiera. En 1959, crearon el Instituto de Seguros de Seguridad Vial. Los aseguradores desarrollaron estándares para las pruebas de choque de coches que incentivaron a los fabricantes de automóviles a desarrollar coches más seguros. Crearon incentivos financieros para la adopción de cinturones de seguridad y airbags antes de que se implementaran regulaciones. Mejores coches hicieron que fuera seguro que los coches se volvieran comunes y ayudaron a salvar cientos de miles de vidas. Energía nuclear: En 1957, la Ley Price-Anderson creó la industria privada de energía nuclear en América. En su núcleo hay un esquema de seguros. Fue diseñado para hacer posible que los operadores nucleares gestionaran plantas de energía arriesgadas con supervisión del mercado, mientras protegían financieramente a las víctimas en caso de un accidente. El seguro privado cubre accidentes hasta $16 mil millones antes de que un respaldo gubernamental entre en acción para cubrir riesgos catastróficos. Esto le da al gobierno el beneficio de actores del mercado privado bien incentivados que supervisan la gestión del riesgo diario. Volviendo a la IA: ¿Cómo, exactamente, podría el seguro equilibrar el progreso de la IA y la seguridad?

Aquí está la esencia: Los aseguradores tienen incentivos y poder para hacer cumplir que las empresas que aseguran tomen medidas para prevenir los riesgos que importan. Hacen cumplir la seguridad a través de un ciclo de incentivos: Los aseguradores crean estándares. Los estándares delinean qué riesgos importan y qué deben hacer las empresas para prevenirlos. Las empresas de IA quieren certificarse contra los estándares porque les ayuda a ganar la confianza de sus clientes y porque los hace elegibles para el seguro, al igual que vemos hoy en día en la ciberseguridad con SOC 2. Los estándares luego establecen el umbral para las auditorías. Los aseguradores auditan los riesgos antes de asegurarlos. Obtienen acceso a información privada para poder ver si los estándares se cumplen realmente. Las auditorías dan fuerza a los estándares para su cumplimiento. Las auditorías, a su vez, permiten a los aseguradores valorar el riesgo con mayor precisión. Cuando se equivocan, actualizan los estándares para reflejar los riesgos reales. Este ciclo se está manifestando más claramente en los agentes de IA para riesgos comerciales, pero se extiende a laboratorios y centros de datos para riesgos catastróficos.

El ciclo de incentivos de IA está surgiendo: -GitHub asegura a los clientes para ganar confianza -Los laboratorios se están uniendo en Compromisos de Seguridad, es decir, estándares tempranos -METR está impulsando evaluaciones técnicas para permitir mejores auditorías -RAND establece una base para los estándares de centros de datos