将TensorFlow张量值剪辑到最大 L2-norm

由 Carrie 创建, 最后一次修改 2017-09-11

tf.clip_by_norm

clip_by_norm ( 
    t , 
    clip_norm , 
    axes = None , 
    name = None
 )

定义在:tensorflow/python/ops/clip_ops.py.

参见指南:Training函数>梯度剪辑

将张量值剪辑到最大 L2-norm.

给定一个张量 t 和一个最大的剪辑值 clip_norm,此操作使 t 的 L2-norm 小于或等于 clip_norm,沿轴给定的维度.具体地说, 在所有维度都用于计算的默认情况下, 如果 t 的 L2-norm 已小于或等于 clip_norm,则 t 不会被修改.如果 L2-norm 大于 clip_norm,则此操作将返回与 t 相同的类型和形状的张量,其值设置为:

t * clip_norm / l2norm(t)

在这种情况下,输出张量的 L2-norm 为 clip_norm.

作为另一个例子, 如果 t 是矩阵和轴 = = [1], 如果坐标轴 == [0], 则输出的每一列将被修剪.
此操作通常用于在使用优化程序之前对其进行梯度剪辑.

ARGS:

  • t:张量.
  • clip_norm:一个0维 (标量) 张量 > 0,是最大剪辑值.
  • axes:包含用于计算 L2-norm 的维度的 int32 型的1维 (矢量) 张量.如果没有 (默认值), 则使用所有维度.
  • name:操作的名称(可选).

返回:

一个剪辑张量.


以上内容是否对您有帮助:
二维码
建议反馈
二维码