TensorFlow初始化器:tf.glorot_normal_initializer

函数:tf.glorot_normal_initializer
glorot_normal_initializer(
    seed=None,
    dtype=tf.float32
)

定义在:tensorflow/python/ops/init_ops.py

Glorot 正常初始化器,也称为 Xavier 正常初始化器.

它从以0为中心的截断正态分布中抽取样本,stddev = sqrt(2 / (fan_in + fan_out)),其中 fan_in 是权重张量的输入单元数,而 fan_out 是权重张量中的输出单位数.

参考:HTTP://jmlr.org/proceedings/papers/v9/glorot10a/glorot10a.pdf

参数:

  • seed:一个 Python 整数,用于创建随机种子.参考 tf.set_random_seed 中的行为.
  • dtype:数据类型.只支持浮点类型.

返回值:

返回一个初始化程序.

函数:tf.glorot_uniform_initializer
glorot_uniform_initializer(
    seed=None,
    dtype=tf.float32
)

定义在:tensorflow/python/ops/init_ops.py

Glorot 均匀初始化器,也称为 Xavier 均匀初始化器.

它从一个均匀分布的 [-limit, limit] 中抽取样本 , 其中 limit 是 sqrt(6 / (fan_in + fan_out)), 其中 fan_in 是在权重张量中输入单位的数量和 fan_out 是在权重张量中输出单位的数量.

参考:HTTP://jmlr.org/proceedings/papers/v9/glorot10a/glorot10a.pdf

参数:

  • seed:一个 Python 整数,用于创建随机种子.参考 tf.set_random_seed 中的行为.
  • dtype:数据类型.只支持浮点类型.

返回值:

返回一个初始化程序.

以上内容是否对您有帮助:
在线笔记
App下载
App下载

扫描二维码

下载编程狮App

公众号
微信公众号

编程狮公众号

意见反馈
返回顶部