Человекообразные роботы могут давать сбои и совершать небезопасные действия множеством способов – аппаратные сбои, программные ошибки, кибератаки, странные крайние случаи или ошибки человеческого оператора. Сто лет назад в США было 20 смертей в результате автомобильных аварий на 100 миллионов миль. Сегодня это число составляет менее 1,5 – но не ноль. Роботы не будут на 100% безопасны – и, возможно, это не должно быть ожиданием. Мы находимся на стадии "раннего автомобиля" для человекоподобных роботов. У нас еще нет достаточного количества данных из реального мира о работе роботов среди людей, чтобы определить, что на самом деле означает "достаточно безопасно". Но роботам действительно нужно быть среди людей – чтобы помогать пожилым и выполнять опасные, повторяющиеся и утомительные задачи. Нам нужно установить разумные стандарты безопасности, которые защитят людей, не останавливая прогресс. Если мы будем слишком осторожными, мы рискуем стагнацией; если мы будем слишком легкомысленными, мы пригласим вред.