Ich würde gerne ein Buch mit dem Titel "Moralische Philosophie für Schimpansen" lesen. "Gut" ist so eine seltsame und interessante Idee. Vor einem Jahrzehnt skizzierte ich einige Notizen für einen Aufsatz über "Das Gute, das Wahre und das Mächtige". Eine merkwürdige Sache, die mir auffiel, waren die unterschiedlichen Ursprungszeiten: (sehr grob) es gab immer Wahrheit; Macht entstand mit dem Leben; Gutheit entsteht mit der Menschheit. Die Gesetze der Physik sind einfach; ein Stein *ist* einfach; ein Lebewesen kann mächtiger sein als ein anderes; nur Menschen sündigen. (Ja, es gibt viele Vorbehalte zu all dem. Versuche, interessant zu improvisieren, wenn du antwortest, und mache keine offensichtlichen Aussagen darüber, wie ein Stein als mächtig angesehen werden kann, andere Säugetiere primitive Vorstellungen von Gutheit haben können usw.)

Das ASI-Sicherheitsproblem ist damit verbunden. In gewisser Weise geht es um das Gleichgewicht zwischen Gut und Macht, bedingt durch die Wahrheit. Und je nach Wahrheit kann es schwieriger oder einfacher sein, das zu tun.

Auch seltsam: wie oft moralische Erfindung damit zu tun hat, wo wir die Grenze zwischen Ingroup und Outgroup ziehen.

@eshear @alazar42 Es ist interessant, denn Menschen wie Feynman, Dirac und Weinberg scheinen ebenfalls diese Position gehabt zu haben, waren aber sehr ernsthafte Atheisten. Und doch hatten sie etwas, das sehr der spinozistischen / einsteinischen Position ähnelt.