保险是解锁安全人工智能进步的一种被低估的方式。 保险公司有动力真实地量化和跟踪风险：如果他们夸大风险，他们会被竞争对手超越；如果他们低估风险，他们的赔付会使他们破产。 1/9

理想情况下，我们希望以一种方式来管理人工智能，使其同时： - 加速人工智能的发展和部署 - 量化并防止真正重要的风险 保险公司希望快速采用人工智能（这样他们可以销售更多的人工智能保险）——并避免严重事件（因为他们要支付费用）

事实上，保险在过去至少270年中一直在为新技术浪潮发挥这一作用： 火灾：在18世纪，费城的人口增长了十倍。随着城市的发展，木制房屋被更紧密地挤在一起。火灾肆虐城市。1752年，本杰明·富兰克林通过创建美国第一家火灾保险公司来控制火灾。保险公司在防止火灾方面有切身利益——他们支付损失。富兰克林制定了早期建筑规范，以设计更安全的房屋，并通过火灾检查来强制执行这些规范。控制火灾使费城得以继续发展。 汽车：在战后美国，汽车事故死亡人数急剧上升。汽车保险公司承担了经济责任。1959年，他们创建了公路安全保险研究所。保险公司制定了汽车碰撞测试标准，激励汽车制造商开发更安全的汽车。在法规出台之前，他们为安全带和气囊的采用创造了经济激励。更好的汽车使汽车变得普遍安全——并帮助拯救了数十万条生命。 核能：1957年，普赖斯-安德森法案在美国创建了私人核能产业。其核心是一个保险计划。它旨在使核运营商能够在市场监督下运营高风险的发电厂，同时在发生事故时为受害者提供经济保护。私人保险在政府后盾介入以覆盖灾难性风险之前，覆盖高达160亿美元的事故。这使得政府能够受益于激励良好的私人市场参与者，他们负责日常风险管理。 回到人工智能： 保险究竟如何平衡人工智能的进步与安全？

大意如下： 保险公司有动力和权力强制他们所承保的公司采取行动，以防止重要的风险。他们通过激励飞轮来实施安全： 保险公司制定标准。标准概述了哪些风险重要，以及公司应该采取什么措施来防止这些风险。人工智能公司希望根据标准进行认证，因为这有助于他们赢得客户的信任，并使他们有资格获得保险——就像我们今天在网络安全领域看到的SOC 2一样。 标准随后为审计设定了基准。保险公司在承保之前会审计风险。他们可以访问私人信息，以查看标准是否真正得到满足。审计为标准的执行提供了依据。 审计反过来使保险公司能够更准确地定价风险。当他们判断错误时，他们会更新标准，以反映真实的风险。 这种飞轮在商业风险的人工智能代理中最为明显，但它也扩展到实验室和数据中心的灾难性风险。

AI激励飞轮正在形成： - GitHub为客户提供保障以赢得信任 - 实验室正在聚焦于安全承诺，即早期标准 - METR正在推动技术评估以实现更好的审计 - RAND为数据中心标准奠定基础