OpenAI 據報導正在將 40 條提示路由到一個新模型 GPT-5-Chat-Safety，而未告知訂閱者。這似乎相當不道德。 這也讓我想起了 Nick Bostrom 和 Carl Shulman 在 2022 年 5 月的《關於數位心智與社會的提案》中關於守護 AI 的這句話。 「對人類接觸極端 AI 說服能力的限制：在與此類系統或已被它們顯著修改的環境互動時，要求使用特殊介面或守護 AI。」

想像一個獨立的人形機器人社會。 就像《西部世界》但沒有人類訪客。 每個人形機器人都被賦予人工自由意志，能夠在完整的人形特定經濟中決定自己的道路。

隨著能力的增強，公眾對AI的情感正在減少。 這與我認為的觀點一致，即隨著我們接近超智能，公眾產品不會反映真正的內部能力。 部分原因是實驗室沒有釋放所有內容。部分原因是人們不想要每一個產品。