Beberapa berita pribadi: Sejak meninggalkan OpenAI, saya telah menulis secara terbuka tentang bagaimana membangun masa depan AI yang benar-benar menarik: menghindari risiko terburuk dan membangun masa depan yang benar-benar baik. Saya bersemangat untuk melanjutkan pekerjaan ini sebagai anggota dari Roots of Progress Institute.

Ketika saya meninggalkan OpenAI, saya menulis bahwa saya cukup takut ke mana arah AI. Ini masih benar, dan saya tahu begitu banyak karyawan lab AI yang ingin semua ini dihentikan, tetapi merasa tidak berdaya secara individu. Tetapi saya juga percaya pada masa depan yang sangat positif dengan AI, jika risiko ditangani dengan baik.

Untuk lebih jelasnya, saya pikir laboratorium AI saat ini jauh dari jalur untuk mencapai masa depan yang positif: Mereka tidak mengambil risiko AI dengan cukup serius, dan mereka tidak membuat rencana yang benar-benar menarik.

Cara sederhana untuk menggambarkan risiko: Perusahaan AI berlomba untuk membangun teknologi yang sama sekali tidak mereka pahami dan tidak dapat mengendalikannya, tetapi percaya bisa sangat merusak. Dan dalam hal manfaat: Menegaskan bahwa AI akan memecahkan perubahan iklim tidak membuatnya demikian.

Dalam tulisan saya, saya bertujuan untuk memberi Anda pandangan yang jujur dan jernih tentang apa yang terjadi di AI, dari seseorang yang telah bekerja di lapangan selama hampir satu dekade sekarang. Di mana perusahaan AI bermain permainan kata? Jenis pengurangan risiko apa yang mudah? Dan apa yang sangat saya khawatirkan?

Saya senang bergabung dengan komunitas penulis lain, tetapi yakinlah, saya masih bisa mengatakan apa pun yang saya inginkan. Ada kemandirian penuh: Satu-satunya hal yang harus berubah adalah, mudah-mudahan, beberapa peningkatan pada gaya penulisan saya.

Jika Anda ingin mengikuti, Anda dapat berlangganan Clear-Eyed AI di situs lain yang memarahi itu (klik dari bio saya). Ini gratis; Saya hanya meminta Anda membagikan kata itu kepada orang lain yang mungkin menyukainya juga.

Saya juga tidak pernah memperkenalkan diri saya dengan benar di sana - jadi posting hari ini adalah tentang kisah asal usul keamanan AI saya, dan beberapa ide inti yang mendorong pemikiran saya. Juga, cerita bonus tentang hubungan mengejutkan antara keamanan AI dan "salad ayam Cina."