バックプロパゲーション(BP)を発明したのは誰ですか?その現代版(自動微分の逆モードとも呼ばれます)は、1970年にフィンランドの修士課程の学生Seppo Linnainmaaによって最初に出版されました。BPの前身は、1960年にヘンリー・J・ケリーによって出版されました。BPの最初のNN固有のアプリケーションは、1982年にPaul Werbosによって説明されました(ただし、時々主張されているように、彼の1974年の論文にはまだ記載されていません)。 「バックプロパゲーションはライプニッツ(1676年)の連鎖法則にすぎないのか?」と尋ねる人もいます。いいえ、これは、微分可能なノードを持つ大規模なネットワークにチェーンルールを適用する効率的な方法です。(これを行う非効率的な方法もたくさんあります。1970年まで出版されませんでした。 詳細については、バックプロパゲーションの概要 Web ページを参照してください。 「現代のAIとディープラーニングの注釈付き歴史」(2022年)も参照してください。
32.9K