Emmett Shear @eshear a cofondé Twitch et a guidé OpenAI à travers ses 72 heures les plus intenses en tant que PDG par intérim. Maintenant, il fait l'opposé de la plupart des recherches en IA dans son laboratoire d'alignement organique @softmaxresearch : il augmente une population de petits agents stupides pour s'aligner les uns avec les autres en un seul – comme les 28 trillions de cellules qui composent "vous". Emmett a ouvert notre sommet DEMi3 (soutenu par @cyberFund_) avec une discussion informelle sur l'alignement avec @kylejohnmorris, fondateur de @demi_network. Comment une épée est-elle semblable à un système d'apprentissage ? Avec qui vous engageriez-vous obligatoirement en multicellulaire ? L'alignement trompeur est-il vraiment une préoccupation ? Regardez son discours complet ci-dessous 👇 0:01:30 - Définir l'Alignement : "Aligné à quoi ?" 0:02:50 - Alignement Organique : "S'aligner AVEC plutôt qu'À" 0:05:00 - p. ex. La main invisible comme IA originale 0:07:21 - p. ex. Le réseau de régulation génétique dans les cellules 0:09:00 - L'approche novatrice de Softmax : RL multi-agents d'une petite population stupide 0:10:36 - L'alignement doit être un choix : Coopération d'apprentissage méta 0:12:47 - La mission de Softmax 0:15:00 - L'alignement est une capacité dangereuse et puissante 0:16:37 - Comment les humains s'alignent : Le grand saut d'inférence 0:19:00 - Quand l'alignement échoue (p. ex. cellules cancéreuses) + application obligatoire du multicellulaire 0:21:47 - Aborder les risques d'"alignement trompeur" : L'alignement n'est pas asymétrique 0:25:37 - Comment mettre en œuvre l'alignement IA organique 0:26:33 - Ce que nous devons faire maintenant : Humains et IA s'alignant les uns avec les autres comme une famille