Chętnie przeczytałbym książkę zatytułowaną "Filozofia moralna dla szympansów" "Dobro" to takie dziwne i interesujące pojęcie. Dekadę temu naszkicowałem kilka notatek do eseju na temat "Dobra, Prawdy i Mocy". Jedną dziwną rzeczą, którą zauważyłem, były różne czasy powstania: (bardzo ogólnie) prawda zawsze istniała; moc pojawiła się z życiem; dobro pojawia się z ludzkością. Prawa fizyki po prostu są; kamień po prostu *jest*; jeden organizm może być bardziej potężny od innego; tylko ludzie grzeszą. (Tak, jest wiele zastrzeżeń do tego wszystkiego. Spróbuj odpowiedzieć w interesujący sposób, a nie wygłaszać oczywiste stwierdzenia o tym, jak kamień może być uważany za potężny, inne ssaki mogą mieć prymitywne pojęcia dobra itd.)

Problem bezpieczeństwa ASI jest powiązany. W pewnym sensie chodzi o równowagę między dobrem a władzą, uzależnioną od prawdy. A w zależności od prawdy może być trudniej lub łatwiej to osiągnąć.

Również dziwne: jak często moralna wynalazczość polega na zmianie miejsca, w którym ustalamy granicę między grupą wewnętrzną a zewnętrzną.

@eshear @alazar42 To ciekawe, ponieważ ludzie tacy jak Feynman, Dirac i Weinberg również wydają się mieć tę pozycję, ale byli bardzo poważnymi ateistami. A jednak mieli coś bardzo podobnego do pozycji Spinozy / Einsteina.