Tôi rất vui lòng đọc một cuốn sách có tựa đề "Triết học đạo đức cho tinh tinh" "Tốt" là một ý tưởng thật kỳ lạ và thú vị. Mười năm trước, tôi đã phác thảo một số ghi chú cho một bài tiểu luận về "Cái Tốt, Cái Đúng và Cái Quyền Lực". Một điều kỳ lạ mà tôi nhận thấy là thời gian xuất hiện khác nhau: (rất đại khái) luôn có sự thật; quyền lực xuất hiện cùng với sự sống; cái tốt xuất hiện cùng với nhân loại Các định luật vật lý đơn giản là như vậy; một viên đá đơn giản *là*; một sinh vật có thể mạnh mẽ hơn một sinh vật khác; chỉ có con người mới phạm tội (Có, có nhiều điều cần lưu ý về tất cả những điều này. Hãy cố gắng phản hồi một cách thú vị nếu bạn trả lời, đừng đưa ra những tuyên bố hiển nhiên về việc một viên đá có thể được coi là mạnh mẽ, các loài động vật khác có thể có những khái niệm nguyên thủy về cái tốt, v.v.)

Vấn đề an toàn ASI có liên quan. Theo một cách nào đó, nó liên quan đến sự cân bằng giữa điều tốt và quyền lực, phụ thuộc vào sự thật. Và tùy thuộc vào sự thật, có thể sẽ khó khăn hơn hoặc dễ dàng hơn để làm điều đó.

Cũng lạ: việc phát minh đạo đức thường liên quan đến việc thay đổi nơi chúng ta đặt ranh giới giữa nhóm trong và nhóm ngoài.

@eshear @alazar42 Thật thú vị, vì những người như Feynman, Dirac và Weinberg dường như cũng có quan điểm này, nhưng lại là những người vô thần rất nghiêm túc. Và tuy nhiên, họ có điều gì đó rất giống với quan điểm của Spinoza / Einstein.