fluid.regularizer

paddle.fluid.regularizer.L1Decay

L1DecayRegularizer 的别名

L1DecayRegularizer

class paddle.fluid.regularizer.L1DecayRegularizer(regularization_coeff=0.0)

实现 L1 权重衰减正则化。

L1正则将会稀疏化权重矩阵。

\[\begin{split}\\L1WeightDecay=reg\_coeff∗sign(parameter)\\\end{split}\]
参数:
  • regularization_coeff (float) – 正则化系数

代码示例

ioptimizer = fluid.optimizer.Adagrad(
                        learning_rate=1e-4,
                        regularization=fluid.regularizer.L1DecayRegularizer(
                         regularization_coeff=0.1))
optimizer.minimize(avg_cost)
paddle.fluid.regularizer.L2Decay

L2DecayRegularizer 的别名

L2DecayRegularizer

class paddle.fluid.regularizer.L2DecayRegularizer(regularization_coeff=0.0)

实现L2 权重衰减正则化。

较小的 L2 的有助于防止对训练数据的过度拟合。

\[\begin{split}\\L2WeightDecay=reg\_coeff*parameter\\\end{split}\]
参数:
  • regularization_coeff (float) – 正则化系数

代码示例

optimizer = fluid.optimizer.Adagrad(
                         learning_rate=1e-4,
                         regularization=fluid.regularizer.L2DecayRegularizer(
                         regularization_coeff=0.1))
 optimizer.minimize(avg_cost)