保險是一種被低估的方式，可以解鎖安全的人工智慧進步。 保險公司有動力真實地量化和追蹤風險：如果他們誇大風險，就會被競爭對手超越；如果他們低估風險，則會因賠付而破產。 1/9

理想情況下，我們應該以一種方式來管理人工智慧，使其同時： - 加速人工智慧的發展和部署 - 量化並防止真正重要的風險 保險公司希望快速採用人工智慧（這樣他們可以賣出更多的人工智慧保險）——並避免嚴重事件（因為他們需要支付賠償）

事實上，保險在至少270年來一直在新技術浪潮中扮演著這個角色： 火災：在1700年代，費城的人口增長了十倍。隨著城市的擴張，木製房屋變得更加密集。火災肆虐城市。1752年，本傑明·富蘭克林通過創建美國第一家火災保險公司來控制火災。這家保險公司在防止火災方面有著直接的利益——他們支付損失。富蘭克林制定了早期的建築法規，以設計更安全的房屋，並通過火災檢查來強制執行這些法規。控制火災使費城能夠繼續增長。 汽車：在戰後的美國，車禍死亡人數急劇上升。汽車保險公司支付了財務賬單。1959年，他們創建了公路安全保險研究所。保險公司制定了汽車碰撞測試的標準，激勵汽車製造商開發更安全的汽車。在法規出台之前，他們為安全帶和氣囊的採用創造了財務激勵。更好的汽車使得汽車變得普遍安全——並幫助拯救了數十萬條生命。 核能：1957年，普萊斯-安德森法案創建了美國的私營核能產業。其核心是一個保險計劃。它旨在使核能運營商能夠在市場監管下運行高風險的發電廠，同時在發生事故時財務保護受害者。私營保險在政府後盾介入以覆蓋災難性風險之前，承擔高達160億美元的事故賠償。這使政府受益於激勵良好的私營市場參與者，這些參與者負責日常風險管理。 回到人工智慧： 究竟，保險如何平衡人工智慧的進步與安全？

這是要點： 保險公司有動機和權力強制他們所保險的公司採取行動，以防止重要的風險。他們通過激勵飛輪來強化安全性： 保險公司制定標準。標準概述了哪些風險是重要的，以及公司應該做什麼來防止這些風險。AI 公司希望根據標準進行認證，因為這有助於他們獲得客戶的信任，並使他們有資格獲得保險——就像我們今天在網絡安全中看到的 SOC 2 一樣。 然後，標準為審計設置了基準。保險公司在保險之前會審計風險。他們獲得私人信息，以便查看標準是否實際上得到了滿足。審計為標準的執行提供了依據。 審計反過來讓保險公司更準確地定價風險。當他們判斷錯誤時，他們會更新標準以反映實際風險。 這個飛輪在商業風險的 AI 代理中最為明顯，但它也擴展到實驗室和數據中心的災難性風險。

AI 激勵飛輪正在形成： - GitHub 確保客戶贏得信任 - 實驗室正在聚焦於安全承諾，即早期標準 - METR 正在推動技術評估以促進更好的審計 - RAND 為數據中心標準奠定基礎