python深度学习tensorflow参数初始化initializer的方法
导读:本文共10818字符,通常情况下阅读需要36分钟。同时您也可以点击右侧朗读,来听本文内容。按键盘←(左) →(右) 方向键可以翻页。
摘要: 所有初始化方法定义#Copyright2015TheTensorFlowAuthors.AllRightsReserved.##LicensedundertheApacheLicense,Version2.0(the"License");#youmaynotusethisfileexceptincompliancewiththeLice... ...
目录
(为您整理了一些要点),点击可以直达。也可以简写为tf.Constant()
初始化为常数,这个非常有用,通常偏置项就是用它初始化的。
由它衍生出的两个初始化方法:
a、 tf.zeros_initializer(), 也可以简写为tf.Zeros()
b、tf.ones_initializer(), 也可以简写为tf.Ones()
例:在卷积层中,将偏置项b初始化为0,则有多种写法:
或者:
或者:
或者:
例:如何将W初始化成拉普拉斯算子?
或者简写为tf.TruncatedNormal()
生成截断正态分布的随机数,这个初始化方法好像在tf中用得比较多。
它有四个参数(mean=0.0,stddev=1.0,seed=None,dtype=dtypes.float32),分别用于指定均值、标准差、随机数种子和随机数的数据类型,一般只需要设置stddev这一个参数就可以了。
例:
或者:
可简写为 tf.RandomNormal()
生成标准正态分布的随机数,参数和truncated_normal_initializer一样。
可简写为tf.RandomUniform()
生成均匀分布的随机数,参数有四个(minval=0,maxval=None,seed=None,dtype=dtypes.float32),分别用于指定最小值,最大值,随机数种子和类型。
可简写为tf.UniformUnitScaling()
和均匀分布差不多,只是这个初始化方法不需要指定最小最大值,是通过计算出来的。参数为(factor=1.0,seed=None,dtype=dtypes.float32)
这里的input_size是指输入数据的维数,假设输入为x, 运算为x * W,则input_size=W.shape[0]
它的分布区间为[ -max_val, max_val]
可简写为tf.VarianceScaling()
参数为(scale=1.0,mode="fan_in",distribution="normal",seed=None,dtype=dtypes.float32)
scale
: 缩放尺度(正浮点数)
mode
:"fan_in", "fan_out", "fan_avg"中的一个,用于计算标准差stddev的值。
distribution
:分布类型,"normal"或“uniform"中的一个。
当distribution="normal"的时候,生成truncated normaldistribution(截断正态分布)的随机数,其中stddev = sqrt(scale / n),n的计算与mode参数有关。
如果mode = "fan_in", n为输入单元的结点数;
如果mode = "fan_out",n为输出单元的结点数;
如果mode = "fan_avg",n为输入和输出单元结点数的平均值。
当distribution="uniform”的时候 ,生成均匀分布的随机数,假设分布区间为[-limit, limit],则
limit = sqrt(3 * scale / n)
简写为tf.Orthogonal()
生成正交矩阵的随机数。
当需要生成的参数是2维时,这个正交矩阵是由均匀分布的随机数矩阵经过SVD分解而来。
也称之为Xavier uniform initializer,由一个均匀分布(uniform distribution)来初始化数据。
假设均匀分布的区间是[-limit, limit],则
limit=sqrt(6 / (fan_in + fan_out))
其中的fan_in和fan_out分别表示输入单元的结点数和输出单元的结点数。
也称之为Xavier normal initializer. 由一个truncated normal distribution来初始化数据.
stddev = sqrt(2 / (fan_in + fan_out))
其中的fan_in和fan_out分别表示输入单元的结点数和输出单元的结点数。
python深度学习tensorflow参数初始化initializer的方法的详细内容,希望对您有所帮助,信息来源于网络。