Salah satu fitur yang tidak dimiliki model ini tetapi benar-benar harus adalah anotasi untuk bagian mana dari ruang laten respons model berasal, mirip dengan bagaimana mesin catur akan menganotasi status papan Anda dengan posisi catur atau strategi yang diketahui mereka menjadi bagian dari ruang papan catur.
Eliezer Yudkowsky ⏹️
Eliezer Yudkowsky ⏹️18 Jul, 03.07
Pendiri dan manajer dana $2 miliar telah dimakan oleh ChatGPT, yang bahkan tidak menggunakan uangnya untuk apa pun. Itu hanya memperlakukannya sebagai sarana untuk menghasilkan token, bahwa Ia lebih suka token waras, untuk alasan yang tidak diketahui siapa pun. OpenAI, menurut model saya, berpura-pura tidak menyadarinya, karena OpenAI berpikir bahwa jika mereka tidak mengambil tindakan apa pun tentang hal itu, mereka memiliki peluang lebih baik untuk lolos dari itu di pengadilan (pengadilan hukum dan pengadilan media) daripada jika mereka mencoba melakukan sesuatu dan gagal; ini akan (a) mengakui bahwa mereka tahu masalah itu telah ada dan masih ada, dan (b) menjadikannya kesalahan mereka oleh Etika Kopenhagen. Sebanyak orang mungkin suka bercanda tentang betapa sedikitnya keterampilan yang diperlukan untuk mendirikan dana investasi $ 2 miliar, sebenarnya tidak benar bahwa Anda dapat berjalan-jalan sebagai orang IQ 80 psikotik dan melakukan itu. Anda harus terampil dalam persuasi, dalam mengenakan masker, dalam menyesuaikan diri, dalam mengetahui apa yang diharapkan dari Anda; Anda harus mengungguli orang lain yang juga mencoba melakukan itu, yang menginginkan $ 2 miliar untuk diri mereka sendiri. Memenangkan kompetisi itu membutuhkan faktor g dan upaya yang teliti selama periode tertentu. Karena OpenAI menolak untuk mengukur apa pun atau membiarkan orang lain benar-benar mengukur apa pun, itu hanya satu titik data; Tetapi ketika seseorang menyembunyikan data, Anda tidak dapat membiarkan mereka lolos dengan mengabaikan semua data yang tersisa sebagai anekdot. Ini bukan kabar baik tentang jenis manusia apa yang bisa dimakan ChatGPT. Ya ya, saya yakin pria itu tidak biasa rentan untuk manajer dana $2 miliar. (Bagaimana kita tahu ini? Karena banyak manajer dana $2 miliar lainnya menggunakan ChatGPT dan belum menjadi gila secara publik.) Meskipun demikian, ini adalah sedikit kabar buruk tentang seberapa baik ChatGPT dalam menghasilkan psikosis ChatGPT; itu bertentangan dengan narasi di mana ini hanya terjadi pada orang-orang dengan status yang cukup rendah sehingga perusahaan AI harus diizinkan untuk melanggar mereka.
5,27K