Emmett Shear @eshear cofundou o Twitch e guiou a OpenAI durante suas 72 horas mais intensas como CEO interino. Agora ele está fazendo o oposto da maioria das pesquisas de IA em seu laboratório de alinhamento orgânico @softmaxresearch: aumentar a escala de uma população de pequenos agentes burros para se alinharem uns com os outros como um só – como os 28 trilhões de células que compõem "você". Emmett abriu nossa cúpula DEMi3 (apoiada por @cyberFund_) com um bate-papo informal sobre alinhamento com @kylejohnmorris, fundador da @demi_network. Como uma espada é como um sistema de aprendizagem? Com quem você ficaria multicelular obrigatório? O alinhamento enganoso é mesmo uma preocupação real? Assista sua palestra completa abaixo 👇 0:01:30 - Definindo alinhamento: "Alinhado a quê?" 0:02:50 - Alinhamento Orgânico: "Alinhar COM em vez de PARA" 0:05:00 – por exemplo, a mão invisível como IA original 0:07:21 - por exemplo, a rede reguladora de genes nas células 0:09:00 - A nova abordagem de Softmax: RL multiagente de uma pequena população 0:10:36 - O alinhamento deve ser uma escolha: cooperação de meta-aprendizagem 0:12:47 - Missão da Softmax 0:15:00 - O alinhamento é uma capacidade perigosa e poderosa 0:16:37 - Como os humanos se alinham: o grande salto de inferência 0:19:00 - Quando o alinhamento falha (por exemplo, células cancerígenas) + imposição multicelular obrigatória 0:21:47 - Abordando riscos de "alinhamento enganoso": O alinhamento não é assimétrico 0:25:37 - Como implementar o alinhamento orgânico de IA 0:26:33 - O que precisamos fazer agora: Humanos e IA se alinhando uns com os outros como uma família