Emmett Shear @eshear co-fundou a Twitch e guiou a OpenAI durante as suas 72 horas mais intensas como CEO interino. Agora ele está fazendo o oposto da maioria das pesquisas em IA no seu laboratório de alinhamento orgânico @softmaxresearch: escalando uma população de pequenos agentes burros para se alinharem entre si como um só—como as 28 trilhões de células que compõem "você". Emmett abriu nosso cimeira DEMi3 (apoiada por @cyberFund_) com uma conversa à beira da lareira sobre alinhamento com @kylejohnmorris, fundador da @demi_network. Como é que uma espada se parece com um sistema de aprendizagem? Com quem você se tornaria obrigatoriamente multicelular? O alinhamento enganoso é mesmo uma preocupação real? Assista à sua palestra completa abaixo 👇 0:01:30 - Definindo Alinhamento: "Alinhado a quê?" 0:02:50 - Alinhamento Orgânico: "Alinhar COM em vez de PARA" 0:05:00 - p.ex. A mão invisível como IA original 0:07:21 - p.ex. A rede reguladora de genes nas células 0:09:00 - A abordagem inovadora da Softmax: RL multi-agente de uma pequena população burra 0:10:36 - O alinhamento deve ser uma escolha: Cooperação de meta-aprendizagem 0:12:47 - A missão da Softmax 0:15:00 - O alinhamento é uma capacidade perigosa e poderosa 0:16:37 - Como os humanos se alinham: O grande salto de inferência 0:19:00 - Quando o alinhamento falha (p.ex. células cancerígenas) + imposição multicelular obrigatória 0:21:47 - Abordando os riscos de "alinhamento enganoso": O alinhamento não é assimétrico 0:25:37 - Como implementar o alinhamento de IA orgânica 0:26:33 - O que precisamos fazer agora: Humanos e IA se alinhando uns com os outros como uma família.