反向传播(BP)是谁发明的?它的现代版本(也称为自动微分的反向模式)首次发表于1970年,由芬兰硕士生Seppo Linnainmaa发表。BP的前身由Henry J. Kelley于1960年发表。BP在神经网络特定应用中的首次描述是由Paul Werbos于1982年提出的(但有时声称他在1974年的论文中并未提及)。 有人问:“反向传播不就是莱布尼茨(1676)的链式法则吗?”不,它是将链式法则高效应用于具有可微节点的大型网络的方法。(当然,也有许多低效的方法来实现这一点。)直到1970年才被发表。 请参见反向传播概述网页以获取更多详细信息: 另请参见《现代人工智能与深度学习的注释历史》(2022):
32.9K