1991 年：第一次神經網络蒸餾 [1-3]。那時我稱之為 「崩潰」，而不是 「蒸餾」。。 引用 [1] J. Schmidhuber （1991 年）。神經序列分塊器。技術報告 FKI-148-91，慕尼克科技大學。第3.2.2節。& Sec. 4是關於將神經網路的知識“摺疊”或“蒸餾”或“壓縮”到另一個神經網络中。 [2] JS （1992 年）。使用歷史壓縮原理學習複雜的擴展序列。神經計算，4（2）：234-242,1992 年。基於 [1]。 [3] JS（AI 博客，2021 年，2025 年更新）。1991年：第一個採用無監督預訓練的非常深入的學習。第一個神經網路蒸餾。