Кто изобрел обратное распространение ошибки (BP)? Его современная версия (также называемая обратным режимом автоматического дифференцирования) была впервые опубликована в 1970 году финским магистрантом Сеппо Линнайнмаа. Предшественник BP был опубликован Генри Дж. Келли в 1960 году. Первое специфическое для нейронных сетей применение BP было описано Полом Вербосом в 1982 году (но не в его диссертации 1974 года, как иногда утверждается). Некоторые спрашивают: "Разве обратное распространение ошибки не является просто правилом цепочки Лейбница (1676)?" Нет, это эффективный способ применения правила цепочки к большим сетям с дифференцируемыми узлами. (Существуют также многие неэффективные способы сделать это.) Оно не было опубликовано до 1970 года. Смотрите веб-страницу с обзором обратного распространения ошибки с более подробной информацией: Смотрите также "Аннотированную историю современного ИИ и глубокого обучения" (2022):