Je lirais avec plaisir un livre intitulé "Philosophie morale pour chimpanzés" "Bien" est une idée si étrange et intéressante. Il y a une décennie, j'ai esquissé quelques notes pour un essai sur "Le Bien, le Vrai et le Puissant". Une chose étrange que j'ai remarquée était les différents temps d'origine : (très grossièrement) il y a toujours eu la vérité ; le pouvoir est apparu avec la vie ; le bien émerge avec l'humanité. Les lois de la physique sont simplement ; un rocher *est* simplement ; un organisme vivant peut être plus puissant qu'un autre ; seuls les humains péchent. (Oui, il y a beaucoup de réserves à tout cela. Essayez de répondre de manière intéressante si vous répondez, ne faites pas d'affirmations évidentes sur la façon dont un rocher peut être considéré comme puissant, d'autres mammifères peuvent avoir des notions primitives de bonté, etc.)

Le problème de sécurité de l'ASI est lié. En un sens, il s'agit de l'équilibre entre la bonté et le pouvoir, conditionné par la vérité. Et selon la vérité, cela peut être plus difficile ou plus facile à réaliser.

Étrange aussi : à quelle fréquence l'invention morale consiste à changer où nous plaçons la frontière entre le groupe d'appartenance et le groupe extérieur.

@eshear @alazar42 C'est intéressant, car des personnes comme Feynman, Dirac et Weinberg semblent également avoir eu cette position, mais avoir été de très sérieux athées. Et pourtant, ils avaient quelque chose de très similaire à la position spinoziste / einsteinienne.