O seguro é uma maneira subestimada de desbloquear o progresso seguro da IA. As seguradoras são incentivadas a quantificar e rastrear os riscos com sinceridade: se exagerarem os riscos, serão superadas; se eles subestimam os riscos, seus pagamentos os levam à falência. 1/9

Idealmente, governaríamos a IA de uma forma que: - Acelera o desenvolvimento e a implantação de IA - Quantifica e previne os riscos que realmente importam As seguradoras querem uma adoção rápida da IA (elas podem vender mais seguros de IA) – e evitar incidentes graves (elas pagam a conta)

Na verdade, o seguro tem desempenhado esse papel para as novas ondas de tecnologia há pelo menos 270 anos: Fogo: Em 1700, a população da Filadélfia cresceu dez vezes. À medida que a cidade crescia, as casas de madeira ficavam mais próximas. O fogo devastou a cidade. Em 1752, Benjamin Franklin domou os incêndios criando a primeira seguradora de incêndio da América. A seguradora tinha pele no jogo para evitar incêndios - eles pagaram pelos danos. Franklin criou os primeiros códigos de construção para projetar casas mais seguras e os aplicou por meio de inspeções de incêndio. Domar os incêndios permitiu que a Filadélfia continuasse a crescer. Carros: Na América do pós-guerra, as mortes por acidentes de carro aumentaram acentuadamente. As seguradoras de automóveis pagaram a conta financeira. Em 1959, eles criaram o Instituto de Seguros de Segurança Rodoviária. As seguradoras desenvolveram padrões para testes de colisão de carros que incentivaram os fabricantes de automóveis a desenvolver carros mais seguros. Eles criaram incentivos financeiros para a adoção do cinto de segurança e do airbag antes da entrada em vigor da regulamentação. Carros melhores tornaram seguro para os carros se tornarem comuns - e ajudaram a salvar centenas de milhares de vidas. Energia nuclear: Em 1957, a Lei Price-Anderson criou a indústria privada de energia nuclear na América. Em seu cerne está um esquema de seguro. Ele foi projetado para possibilitar que os operadores nucleares operem usinas de risco com supervisão do mercado, protegendo financeiramente as vítimas em caso de acidente. O seguro privado cobre acidentes de até US $ 16 bilhões antes que um apoio do governo entre em ação para cobrir riscos catastróficos. Isso dá ao governo o benefício de atores do mercado privado bem incentivados que supervisionam o gerenciamento de risco do dia-a-dia. De volta à IA: Como, exatamente, o seguro poderia equilibrar o progresso e a segurança da IA?

Aqui está a essência: As seguradoras têm incentivos e poder para impor que as empresas que seguram tomem medidas para evitar os riscos que importam. Eles reforçam a segurança por meio de um volante de incentivo: As seguradoras criam padrões. Os padrões descrevem quais riscos são importantes e o que as empresas devem fazer para evitá-los. As empresas de IA querem se certificar de acordo com os padrões porque isso as ajuda a ganhar a confiança de seus clientes e porque as torna elegíveis para o seguro - assim como vemos na segurança cibernética hoje com o SOC 2. Os padrões então definem o padrão para auditorias. As seguradoras auditam os riscos antes de segurá-los. Eles têm acesso a informações privadas para que possam ver se os padrões são realmente atendidos. As auditorias dão força aos padrões para a aplicação. As auditorias, por sua vez, permitem que as seguradoras precifiquem o risco com mais precisão. Quando eles erram, eles atualizam os padrões para refletir os riscos reais. Esse volante está emergindo mais claramente em agentes de IA para riscos comerciais - mas se estende a laboratórios e data centers para riscos catastróficos.

O volante de incentivo de IA está surgindo: -GitHub garante que os clientes ganhem confiança -Os laboratórios estão se unindo em Compromissos de Segurança, ou seja, padrões iniciais -METR está promovendo avaliações técnicas para permitir melhores auditorias -RAND estabelece uma base para padrões de data center