一些個人消息：自從離開 OpenAI 以來，我一直在公開撰寫如何建立一個真正令人興奮的 AI 未來：避免最糟糕的風險，並建立一個真正美好的未來。 我很高興能夠作為進步根源研究所的研究員繼續這項工作。

當我離開 OpenAI 時，我寫道我對 AI 的未來感到相當恐懼。這一點仍然是事實，我知道許多 AI 實驗室的員工希望這一切能停止，但感到個人無能為力。 但我也相信，如果風險得到妥善處理，AI 的未來會非常積極。

為了澄清，我認為今天的人工智慧實驗室在實現積極未來方面完全偏離了正軌：他們對人工智慧的風險沒有足夠重視，也沒有制定出真正令人興奮的計劃。

描述風險的一種簡單方式：AI 公司正在競相建立他們完全不理解且無法控制的技術，但相信這可能會極具破壞性。 而在好處方面：聲稱 AI 將解決氣候變化並不會使其成為現實。

在我的寫作中，我的目標是給你一個誠實、清晰的觀點，關於AI領域發生的事情，這是來自一位在這個領域工作了近十年的人。 AI公司在哪裡玩文字遊戲？哪些類型的風險降低是容易的？那我到底在擔心什麼呢？

我很高興能加入其他作家的社群，但請放心，我仍然可以隨心所欲地發言。 這裡完全獨立：唯一希望改變的，就是我的寫作風格能有所改善。

如果你想一起參與，可以在那個傳說中的其他網站訂閱 Clear-Eyed AI（從我的簡介中點擊它）。 這是免費的；我只希望你能告訴其他可能也會喜歡的人。

我在那裡也從未正確地介紹過自己——因此今天的帖子是關於我的AI安全起源故事，以及驅動我思考的一些核心理念。 此外，還有一個關於AI安全與「中國雞肉沙拉」之間驚人關係的額外故事。