1991: pierwsza destylacja sieci neuronowej [1-3]. Wtedy nazwałem to "zapadaniem się", a nie "destylowaniem". Referencje [1] J. Schmidhuber (1991). Chunkery sekwencji neuronowych. Raport techniczny FKI-148-91, Uniwersytet Techniczny w Monachium. Sekcje 3.2.2. i 4 dotyczą "zapadania się" lub "destylowania" lub "kompresowania" wiedzy sieci neuronowej do innej sieci neuronowej. [2] JS (1992). Uczenie się złożonych, rozszerzonych sekwencji przy użyciu zasady kompresji historii. Neural Computation, 4(2):234-242, 1992. Na podstawie [1]. [3] JS (Blog AI, 2021, zaktualizowane 2025). 1991: Pierwsze bardzo głębokie uczenie się z niesuperwizyjnym wstępnym uczeniem.
16,1K