AlphaDropout
classkeras.layers.AlphaDropout(rate, noise_shape=None, seed=None, **kwargs)
应用 Alpha Dropout 到输入.
Alpha Dropout 是一种 Dropout
,它保持输入的均值和方差为其原始值,以确保即使在 dropout 后也能保持自归一化特性.Alpha Dropout 非常适合通过随机将激活设置为负饱和值来适应缩放指数线性单元(SELU).
参数:
rate: 介于 0 和 1 之间的浮点数.乘性噪声的标准差将为 sqrt(rate / (1 - rate))
.
noise_shape: 1D 整数张量,表示将与输入相乘的二进制 alpha dropout 掩码的形状.例如,如果你的输入形状为 (batch_size, timesteps, features)
,并且你希望 alpha dropout 掩码对所有 timesteps 都相同,你可以使用 noise_shape=(batch_size, 1, features)
.
seed: 用作随机种子的 Python 整数.
调用参数: inputs: 输入张量(任意秩). training: Python 布尔值,指示层是否应在训练模式(添加 alpha dropout)或推理模式(不执行任何操作)下运行.