SB1047 adalah ide yang buruk. Tetapi SB53 terbaru Senator Wiener berada di jalur yang benar, dan penting untuk menyebutkan kemajuannya. Inilah alasan saya. Pendekatan saya untuk mengatur teknologi baru seperti model adalah: kita tidak tahu bagaimana mendefinisikan mitigasi dan jaminan yang "baik", tetapi kita akan mengetahuinya kapan—dan jika—kita melihatnya. Ada dua implikasi. #1. Kita seharusnya tidak menetapkan ambang batas risiko atau standar perawatan untuk pengembangan model. Kita tidak dapat menyetujui risiko yang penting, bagaimana mengukurnya, atau berapa banyak yang terlalu banyak. Satu-satunya panduan untuk pengembang, regulator, dan pengadilan adalah serangkaian praktik baru yang ditentukan terutama oleh perusahaan sumber tertutup yang mengandalkan paywall untuk melakukan pekerjaan berat. Melakukannya dapat mendinginkan inovasi terbuka dengan mengekspos pengembang pada tanggung jawab yang tidak jelas atau meningkat untuk rilis yang luas. Itu adalah SB1047 secara singkat, bersama dengan ~5 padanan yang diilhami di seluruh AS sesi ini, seperti RAISE Act di NY. Kita harus menghindari pendekatan itu. Proposal ini – dalam hal sempit tetapi penting – terlalu jauh di atas ski mereka. Namun: #2. Kita perlu menyoroti praktik industri untuk lebih memahami ketekunan, atau kekurangannya, yang diterapkan oleh perusahaan yang berbeda. Jika pengembang harus berkomitmen pada kebijakan keselamatan dan keamanan, menunjukkan cara kerja mereka, dan meninggalkan jejak kertas, kami dapat menilai kekuatan klaim mereka dengan lebih baik, memantau risiko yang muncul, dan memutuskan intervensi di masa mendatang. Itu adalah Undang-Undang AI UE dan Kode Praktik akhir secara singkat, yang telah didukung oleh OpenAI dan Mistral, dan ini juga merupakan versi terbaru @Scott_Wiener dari SB53. Jika kita akan mengatur pengembangan model, itu pada dasarnya adalah pendekatan yang lebih baik: mengatur transparansi—bukan kemampuan, mitigasi, atau risiko yang dapat diterima. Ini akan memberi setidaknya satu yurisdiksi AS otoritas pengawasan Brussels, dan itu akan menghindari efek yang tidak diinginkan pada pembangunan terbuka. Untuk lebih jelasnya, masih ada gunung es di depan: > Kompleksitas. Big Tech atau bukan, ini adalah dokumentasi dan kewajiban pelaporan yang memberatkan. Secara taktis, semakin kompleks, semakin rentan RUU ini. > Insentif. Pelaporan publik wajib dari penilaian risiko sukarela menciptakan insentif yang menyimpang bagi pengembang untuk kurang menguji model mereka, dan menutup mata terhadap risiko yang sulit. Mengizinkan pengembang untuk mengungkapkan hasil mereka kepada auditor atau lembaga daripada secara publik dapat membantu mempromosikan kejujuran yang lebih besar dalam penilaian internal mereka. > kuda Troya. Budaya hiperaktif California dapat menyulitkan untuk memeriksa RUU ini. Jika SB53 berubah menjadi tagihan standar perawatan seperti SB1047 atau RAISE, itu harus dibatalkan karena alasan yang sama seperti sebelumnya. Semakin banyak pernak-pernik yang ditambahkan ke pohon Natal ini, semakin kontroversial tagihannya. > Luas. RUU tersebut melemparkan jaring lebar dengan definisi luas tentang risiko bencana dan kemampuan berbahaya. Untuk RUU "pelaporan wajib / praktik sukarela", mereka berfungsi. Jika RUU ini adalah RUU standar perawatan, mereka tidak akan layak. Singkatnya: angkat topi untuk Senator Wiener karena terlibat dengan bijaksana dan menanggapi umpan balik selama setahun terakhir. Sangat menyegarkan melihat RUU yang benar-benar dibangun di atas kritik sebelumnya. Masih banyak jalan yang bisa diambil RUU ini—dan telah berkembang jauh melampaui proposal whistleblowing asli—tetapi lintasannya menjanjikan.