BatchNorm 在 #ICML2025 上获得了终身成就奖！ 🎉 BatchNorm 通过解决内部协变量偏移问题，彻底改变了深度学习，这种问题会减缓学习速度，限制学习率，并使训练深度网络变得困难。 通过对每个小批量内的输入进行归一化，BatchNorm 显著稳定并加速了训练。它使得更高的学习率成为可能，改善了梯度流，并为像 ResNet 这样更深的架构铺平了道路。 除了减少内部协变量偏移，BatchNorm 还平滑了优化景观并改善了模型的泛化能力，使其成为现代神经网络训练的基石。 非常值得，@Sergey_xai 和 @ChrSzegedy！