Я с удовольствием прочитал бы книгу под названием "Моральная философия для шимпанзе" "Добро" — это такая странная и интересная идея. Десять лет назад я набросал несколько заметок для эссе под названием "Добро, Истина и Сила". Одной странной вещью, которую я заметил, были разные времена происхождения: (очень грубо) истина всегда существовала; сила появилась с жизнью; добро возникает с человечеством. Законы физики просто существуют; камень просто *есть*; одна форма жизни может быть более мощной, чем другая; только люди грешат. (Да, у всего этого есть много оговорок. Постарайтесь интересно ответить, а не делать очевидные заявления о том, как камень может считаться мощным, другие млекопитающие могут иметь примитивные представления о добре и т.д.)

Проблема безопасности ASI связана. В некотором смысле это вопрос равновесия между добром и властью, обусловленный истиной. И в зависимости от истины это может быть сложнее или легче сделать.

Также странно: как часто моральное изобретение связано с изменением того, где мы устанавливаем границу между нашей группой и чужой.

@eshear @alazar42 Это интересно, потому что такие люди, как Фейнман, Дирак и Вайнберг, похоже, также занимали такую позицию, но были очень серьезными атеистами. И все же у них была позиция, очень похожая на спинозистскую / эйнштейнианскую.