Kto wynalazł propagację wsteczną (BP)? Jej nowoczesna wersja (nazywana również odwrotnym trybem automatycznej różniczkowania) została po raz pierwszy opublikowana w 1970 roku przez fińskiego studenta magisterskiego Seppo Linnainmaa. Prekursor BP został opublikowany przez Henry'ego J. Kelleya w 1960 roku. Pierwsza aplikacja BP specyficzna dla NN została opisana przez Paula Werbosa w 1982 roku (ale nie w jego pracy magisterskiej z 1974 roku, jak czasami się twierdzi). Niektórzy pytają: "Czy propagacja wsteczna to tylko reguła łańcuchowa Leibniza (1676)?" Nie, to efektywny sposób stosowania reguły łańcuchowej do dużych sieci z różniczkowalnymi węzłami. (Istnieje również wiele nieefektywnych sposobów robienia tego.) Nie została opublikowana aż do 1970 roku. Zobacz stronę przeglądową propagacji wstecznej z dodatkowymi szczegółami: Zobacz także "Zanotowaną Historię Nowoczesnej AI i Głębokiego Uczenia" (2022):