Felizmente había leído un libro titulado "Filosofía moral para chimpancés" "Bueno" es una idea tan extraña e interesante. Hace una década esbocé algunas notas para un ensayo sobre "Lo bueno, lo verdadero y lo poderoso". Una cosa extraña que noté fueron los diferentes tiempos de origen: (muy aproximadamente) siempre ha habido verdad; el poder surgió con la vida; El bien emerge con la humanidad Las leyes de la física simplemente son; una roca simplemente *es*; una forma de vida puede ser más poderosa que otra; solo los humanos pecan (Sí, hay muchas advertencias en todo esto. Trate de hacer riffs de manera interesante si responde, no haga declaraciones obvias sobre cómo una roca puede considerarse poderosa, otros mamíferos pueden tener nociones primitivas de bondad, etc.)

El problema de seguridad de ASI está relacionado. En cierto sentido, se trata del equilibrio entre la bondad y el poder, condicionado por la verdad. Y dependiendo de la verdad, puede ser más difícil o más fácil hacerlo

También es extraño: con qué frecuencia la invención moral se trata de cambiar dónde establecemos el límite entre el grupo y el grupo externo.

@eshear @alazar42 Es interesante, porque personas como Feynman, Dirac y Weinberg también parecen haber tenido esta posición, pero han sido ateos muy serios. Y, sin embargo, tenían algo muy parecido a la posición de Spinozan / Einstein