Eu leria felizmente um livro intitulado "Filosofia Moral para Chimpanzés" "Bom" é uma ideia tão estranha e interessante. Há uma década, esbocei algumas notas para um ensaio sobre "O Bom, o Verdadeiro e o Poderoso". Uma coisa estranha que notei foram os diferentes tempos de origem: (muito grosso modo) sempre houve verdade; o poder surgiu com a vida; o bem emerge com a humanidade. As leis da física simplesmente são; uma pedra simplesmente *é*; um organismo pode ser mais poderoso que outro; apenas os humanos pecam. (Sim, há muitas ressalvas para tudo isso. Tente fazer uma reflexão interessante se você responder, não faça declarações óbvias sobre como uma pedra pode ser considerada poderosa, outros mamíferos podem ter noções primitivas de bondade, etc.)

O problema de segurança da ASI está relacionado. De certa forma, trata-se do equilíbrio entre bondade e poder, condicionado pela verdade. E dependendo da verdade, pode ser mais difícil ou mais fácil fazer isso.

Também é estranho: quão frequentemente a invenção moral está relacionada a mudar onde definimos a fronteira entre o grupo interno e o grupo externo.

@eshear @alazar42 É interessante, porque pessoas como Feynman, Dirac e Weinberg também parecem ter tido essa posição, mas eram ateus muito sérios. E ainda assim, tinham algo muito parecido com a posição espinozista / einsteiniana.