深度学习基础之----BN、LN、IN、GN、SN
?目录
深度学习中的归一化问题
BN(Batch Normalizatioon)
BN为了解决什么问题?
BN的主要思想
BN伪代码
BN的使用位置
BN的优势
BN存在的问题
LN(Layer Normalization)
LN为了解决什么问题?
LN的主要思想
LN的优势
IN(Instance Normalization)
为什么提出IN?
IN的做法
GN(Group Normalization)
为什么提出GN?
GN的主要思想
SN(Switchable Normalization)github
全网最详细、最全面、最易懂的normalization解读