Wie heeft backpropagation (BP) uitgevonden? De moderne versie (ook wel de omgekeerde modus van automatische differentiatie genoemd) werd voor het eerst gepubliceerd in 1970 door de Finse masterstudent Seppo Linnainmaa. Een voorlopige versie van BP werd gepubliceerd door Henry J. Kelley in 1960. De eerste NN-specifieke toepassing van BP werd beschreven door Paul Werbos in 1982 (maar niet in zijn proefschrift van 1974, zoals soms wordt beweerd). Sommigen vragen: "Is backpropagation niet gewoon de kettingregel van Leibniz (1676)?" Nee, het is de efficiënte manier om de kettingregel toe te passen op grote netwerken met differentieerbare knooppunten. (Er zijn ook veel inefficiënte manieren om dit te doen.) Het werd pas in 1970 gepubliceerd. Zie de webpagina met een overzicht van backpropagation voor meer details: Zie ook de "Geannoteerde Geschiedenis van Moderne AI en Deep Learning" (2022):