Minulý týden jsem začal kurz pro naše studenty informatiky o neuronových sítích. Můj plán je projít od raných klasik (McCulloch–Pitts, Rosenblatt), přes vývoj kolem všech významných novin až po Attention Is All You Need. Budujeme porozumění prostřednictvím velmi podrobné matematické analýzy konceptů, spousty numerických experimentů a praktických zkušeností s každým pojmem, který definujeme. Musím přiznat, že jsem nečekal, že mě bude bavit taková zábava při ladění s váhami sítí, internalizaci základních principů a čistém experimentování. Už jsem vytvořil první várku poznámek a aplikací na první měsíc experimentů. Návrhy a nápady jsou velmi vítány. Poznámky budu mít otevřené pro všechny, takže mě zajímá, jestli jsem nepřehlédl nějaké nepřesnosti nebo zjevné body.