1991: lần đầu tiên tinh chế mạng nơ-ron [1-3]. Tôi đã gọi nó là "sụp đổ," vào thời điểm đó, không phải là “tinh chế.” Tài liệu tham khảo [1] J. Schmidhuber (1991). Các khối chuỗi nơ-ron. Báo cáo kỹ thuật FKI-148-91, Đại học Kỹ thuật Munich. Mục 3.2.2. & Mục 4 nói về "sụp đổ" hoặc "tinh chế" hoặc "nén" kiến thức của một mạng nơ-ron vào một mạng nơ-ron khác. [2] JS (1992). Học các chuỗi phức tạp, mở rộng bằng nguyên tắc nén lịch sử. Tính toán Nơ-ron, 4(2):234-242, 1992. Dựa trên [1]. [3] JS (Blog AI, 2021, cập nhật 2025). 1991: Học sâu rất đầu tiên với việc tiền huấn luyện không giám sát. Lần đầu tiên tinh chế mạng nơ-ron.