Qui a inventé la rétropropagation (BP) ? Sa version moderne (également appelée le mode inverse de la différentiation automatique) a été publiée pour la première fois en 1970 par l'étudiant de maîtrise finlandais Seppo Linnainmaa. Un précurseur de la BP a été publié par Henry J. Kelley en 1960. La première application spécifique aux réseaux de neurones de la BP a été décrite par Paul Werbos en 1982 (mais pas encore dans sa thèse de 1974, comme on le prétend parfois). Certains demandent : "La rétropropagation n'est-elle pas simplement la règle de chaîne de Leibniz (1676) ?" Non, c'est la manière efficace d'appliquer la règle de chaîne à de grands réseaux avec des nœuds différentiables. (Il existe également de nombreuses manières inefficaces de le faire.) Elle n'a pas été publiée avant 1970. Voir la page web d'aperçu de la rétropropagation avec plus de détails : Voir aussi "Histoire annotée de l'IA moderne et de l'apprentissage profond" (2022) :