Страхування є недооціненим способом розблокування безпечного прогресу штучного інтелекту. Страховики заохочені до правдивої кількісної оцінки та відстеження ризиків: якщо вони завищують ризики, то витісняються; Якщо вони занижують ризики, їхні виплати призводять до банкрутства. 1/9

В ідеалі ми повинні керувати штучним інтелектом таким чином, щоб: - Прискорює розробку та розгортання штучного інтелекту - Кількісно оцінює та запобігає ризикам, які дійсно мають значення Страховики хочуть швидкого впровадження штучного інтелекту (вони можуть продавати більше страховок на основі штучного інтелекту) - і щоб уникнути серйозних інцидентів (вони оплачують рахунок)

Фактично, страхування відіграє цю роль для хвиль нових технологій принаймні 270 років: У 1700-х роках населення Філадельфії зросло в десять разів. У міру зростання міста дерев'яні будинки ставали все тісніше. Вогонь спустошив місто. У 1752 році Бенджамін Франклін приборкав пожежі, створивши першу в Америці страхову компанію від пожеж. У страховика була шкіра в грі для запобігання пожеж - вони оплачували збитки. Франклін створив ранні будівельні норми для проектування більш безпечних будинків і забезпечував їх дотримання за допомогою пожежних інспекцій. Приборкання пожеж дозволило Філадельфії продовжувати розвиватися. Автомобілі: У післявоєнній Америці різко зросла кількість смертей в автомобільних аваріях. Фінансовий рахунок оплатили автостраховики. У 1959 році вони створили Страховий інститут безпеки дорожнього руху. Страховики розробили стандарти краш-тестів автомобілів, які стимулювали виробників автомобілів розробляти більш безпечні автомобілі. Вони створили фінансові стимули для впровадження ременів безпеки та подушок безпеки до того, як набули чинності регулювання. Кращі автомобілі зробили безпечні для автомобілів звичним явищем - і допомогли врятувати сотні тисяч життів. Ядерна енергетика: У 1957 році Закон Прайса-Андерсона створив приватну ядерну енергетику в Америці. В її основі лежить схема страхування. Він був розроблений для того, щоб дати можливість операторам атомних електростанцій експлуатувати ризиковані електростанції з ринковим наглядом, одночасно фінансово захищаючи потерпілих у разі аварії. Приватне страхування покриває нещасні випадки на суму до 16 мільярдів доларів, перш ніж уряд почне діяти для покриття катастрофічних ризиків. Це дає уряду переваги добре стимульованих суб'єктів приватного ринку, які контролюють повсякденне управління ризиками. Повернемося до штучного інтелекту: Як саме страхування може збалансувати прогрес штучного інтелекту та безпеку?

Ось у чому суть: Страховики мають стимули та повноваження для забезпечення того, щоб компанії, які вони страхують, вживали заходів для запобігання ризикам, які мають значення. Вони забезпечують безпеку за допомогою стимулюючого маховика: Страховики створюють стандарти. Стандарти визначають, які ризики мають значення і що компанії повинні зробити, щоб їм запобігти. Компанії, що займаються штучним інтелектом, хочуть сертифікуватися за стандартами, тому що це допомагає їм завоювати довіру від своїх клієнтів і дає їм право на страхування – так само, як ми бачимо сьогодні в кібербезпеці з SOC 2. Тоді стандарти встановлюють планку для аудиту. Страховики проводять аудит ризиків перед тим, як їх застрахувати. Вони отримують доступ до приватної інформації, щоб побачити, чи дійсно дотримуються стандарти. Аудити дають стандарти для виконання. Аудити, в свою чергу, дозволяють страховикам більш точно оцінити ризик. Коли вони помиляються, вони оновлюють стандарти, щоб відобразити реальні ризики. Цей маховик найбільш чітко проявляється в агентах штучного інтелекту для комерційних ризиків, але він поширюється на лабораторії та центри обробки даних для катастрофічних ризиків.

Маховик заохочення штучного інтелекту з'являється: -GitHub страхує клієнтів, щоб завоювати довіру - Лабораторії об'єднуються щодо зобов'язань щодо безпеки, тобто ранніх стандартів -METR просуває технічні оцінки, щоб забезпечити кращі аудити -RAND закладає основу для стандартів центрів обробки даних