前言

权重初始化对网络的训练有着非常重要的影响。目前,xavier initialization和He initialization是常用的初始化方法。除了知道要这么做,为什么这么做同样重要。

Xavier initialization

He initialization

参考