Con gusto leería un libro titulado "Filosofía Moral para Chimpancés" "Bueno" es una idea tan extraña e interesante. Hace una década esbozé algunas notas para un ensayo sobre "Lo Bueno, Lo Verdadero y Lo Poderoso". Una cosa curiosa que noté fueron los diferentes tiempos de origen: (muy aproximadamente) siempre ha existido la verdad; el poder surgió con la vida; el bien surge con la humanidad. Las leyes de la física simplemente son; una roca simplemente *es*; un organismo puede ser más poderoso que otro; solo los humanos pecan. (Sí, hay muchas salvedades a todo esto. Intenta improvisar de manera interesante si respondes, no hagas afirmaciones obvias sobre cómo una roca puede considerarse poderosa, otros mamíferos pueden tener nociones primitivas de bondad, etc.)

El problema de seguridad de la ASI está relacionado. En cierto sentido, se trata del equilibrio entre la bondad y el poder, condicionado por la verdad. Y dependiendo de la verdad, puede ser más difícil o más fácil lograrlo.

También es extraño: cuán a menudo la invención moral se trata de cambiar dónde establecemos el límite entre el grupo interno y el grupo externo.

@eshear @alazar42 Es interesante, porque personas como Feynman, Dirac y Weinberg también parecen haber tenido esta posición, pero eran ateos muy serios. Y, sin embargo, tenían algo muy parecido a la posición espinozista/einsteiniana.