Roboty humanoidalne mogą zawodzić i robić niebezpieczne rzeczy na niezliczone sposoby – awarie sprzętu, błędy oprogramowania, ataki cybernetyczne, dziwne przypadki brzegowe lub błąd operatora. Sto lat temu w USA było 20 zgonów w wypadkach drogowych na 100 milionów mil. Dziś ta liczba wynosi poniżej 1,5 – ale nie zero. Roboty nie będą w 100% bezpieczne – i może nie powinno to być oczekiwanie. Jesteśmy w fazie „wczesnego samochodu” dla humanoidów. Nie mamy jeszcze wystarczającej ilości danych z rzeczywistego świata na temat robotów pracujących wśród ludzi, aby zdefiniować, co naprawdę oznacza „wystarczająco bezpieczne”. Ale roboty muszą być wśród ludzi – aby pomagać osobom starszym i przejmować niebezpieczne, powtarzalne i nużące zadania. Musimy ustalić rozsądne standardy bezpieczeństwa, które chronią ludzi, nie hamując postępu. Jeśli będziemy zbyt ostrożni, ryzykujemy stagnację; jeśli będziemy zbyt lekkomyślni, zapraszamy do szkody.
34,51K