Vorige week ben ik begonnen met een cursus voor onze informatica-studenten over neurale netwerken. Mijn plan is om te beginnen bij de vroege klassiekers (McCulloch–Pitts, Rosenblatt), via de ontwikkelingen rondom alle belangrijke artikelen, tot aan Attention Is All You Need. We bouwen begrip op door een zeer gedetailleerde wiskundige analyse van de concepten, veel numerieke experimenten en praktische ervaring met elke term die we definiëren. Ik moet toegeven dat ik niet had verwacht zoveel plezier te hebben met het experimenteren met de gewichten van de netwerken, het internaliseren van de kernprincipes en gewoon puur experimenteren. Ik heb al de eerste batch aantekeningen en apps voor de eerste maand van experimenten gemaakt. Suggesties en ideeën zijn van harte welkom. Ik houd mijn aantekeningen open voor iedereen, dus ik ben benieuwd of er onnauwkeurigheden of duidelijke punten zijn die ik misschien heb gemist.