Letzte Woche habe ich einen Kurs für unsere Informatik-Studierenden über neuronale Netze begonnen. Mein Plan ist es, von den frühen Klassikern (McCulloch–Pitts, Rosenblatt) über die Entwicklungen rund um alle wegweisenden Arbeiten bis hin zu "Attention Is All You Need" zu gehen. Wir bauen unser Verständnis durch eine sehr detaillierte mathematische Analyse der Konzepte, viele numerische Experimente und praktische Erfahrungen mit jedem Begriff, den wir definieren, auf. Ich muss zugeben, dass ich nicht erwartet habe, so viel Spaß daran zu haben, mit den Gewichten der Netze zu experimentieren, die grundlegenden Prinzipien zu verinnerlichen und einfach nur zu experimentieren. Ich habe bereits die erste Reihe von Notizen und Apps für den ersten Monat der Experimente erstellt. Vorschläge und Ideen sind sehr willkommen. Ich werde meine Notizen für alle offen halten, daher bin ich neugierig, ob es Ungenauigkeiten oder offensichtliche Punkte gibt, die ich möglicherweise übersehen habe.