BatchNorm vinner Test-of-Time Award på #ICML2025! 🎉 BatchNorm revolutionerade djupinlärning genom att ta itu med intern kovariatförskjutning, vilket kan sakta ner inlärningen, begränsa inlärningshastigheten och göra det svårt att träna djupa nätverk. Genom att normalisera indata i varje minibatch stabiliserade och påskyndade BatchNorm träningen avsevärt. Det möjliggjorde högre inlärningshastigheter, förbättrade gradientflödet och banade väg för mycket djupare arkitekturer som ResNet. Förutom att minska den interna kovariatförskjutningen jämnar BatchNorm också ut optimeringslandskapet och förbättrar modellgeneraliseringen, vilket gör det till en hörnsten i modern träning av neurala nätverk. Mycket välförtjänt, @Sergey_xai och @ChrSzegedy!