Emmett Shear @eshear ikut mendirikan Twitch dan membimbing OpenAI melalui 72 jam paling intens sebagai CEO sementara. Sekarang dia melakukan kebalikan dari sebagian besar penelitian AI di laboratorium penyelarasan organiknya @softmaxresearch: meningkatkan populasi agen bodoh kecil untuk menyelaraskan satu sama lain sebagai satu—seperti 28 triliun sel yang membentuk "Anda". Emmett membuka KTT DEMi3 kami (didukung oleh @cyberFund_) dengan obrolan tepi api tentang keselarasan dengan @kylejohnmorris, pendiri @demi_network. Bagaimana pedang seperti sistem pembelajaran? Dengan siapa Anda akan mendapatkan multiseluler wajib? Apakah keselarasan yang menipu bahkan menjadi perhatian nyata? Tonton ceramah lengkapnya di bawah ini 👇 0:01:30 - Mendefinisikan Penyelarasan: "Sejajar dengan apa?" 0:02:50 - Penyelarasan Organik: "Sejajarkan DENGAN daripada UNTUK" 0:05:00 - misalnya tangan tak terlihat sebagai AI asli 0:07:21 - misalnya Jaringan pengatur gen dalam sel 0:09:00 - Pendekatan baru Softmax: RL multi-agen dari populasi bodoh kecil 0:10:36 - Keselarasan harus menjadi pilihan: Kerja sama meta-pembelajaran 0:12:47 - Misi Softmax 0:15:00 - Penyelarasan adalah kemampuan yang berbahaya dan kuat 0:16:37 - Bagaimana manusia menyelaraskan: Lompatan inferensi besar 0:19:00 - Ketika penyelarasan gagal (misalnya sel kanker) + penegakan multiseluler wajib 0:21:47 - Mengatasi risiko "penyelarasan yang menipu": Penyelarasan tidak asimetris 0:25:37 - Cara menerapkan penyelarasan AI organik 0:26:33 - Apa yang perlu kita lakukan sekarang: Manusia & AI menyelaraskan satu sama lain sebagai sebuah keluarga