BatchNorm memenangkan Penghargaan Test-of-Time di #ICML2025! 🎉 BatchNorm merevolusi pembelajaran mendalam dengan mengatasi pergeseran kovariat internal, yang dapat memperlambat pembelajaran, membatasi tingkat pembelajaran, dan menyulitkan untuk melatih jaringan mendalam. Dengan menormalkan input dalam setiap batch mini, BatchNorm secara signifikan menstabilkan dan mempercepat pelatihan. Ini memungkinkan tingkat pembelajaran yang lebih tinggi, meningkatkan aliran gradien, dan membuka jalan bagi arsitektur yang jauh lebih dalam seperti ResNet. Selain mengurangi pergeseran kovariat internal, BatchNorm juga memperlancar lanskap pengoptimalan dan meningkatkan generalisasi model, menjadikannya landasan pelatihan jaringan saraf modern. Sangat layak, @Sergey_xai dan @ChrSzegedy!
9,75K