Tensorflow 简明教程

TensorFlow - Gradient Descent Optimization

梯度下降优化被认为是数据科学中的一个重要概念。

考虑下面所示的步骤来了解梯度下降优化的实现 −

Step 1

包含必需的模块并声明 x 和 y 变量，我们将通过它们来定义梯度下降优化。

import tensorflow as tf

x = tf.Variable(2, name = 'x', dtype = tf.float32)
log_x = tf.log(x)
log_x_squared = tf.square(log_x)

optimizer = tf.train.GradientDescentOptimizer(0.5)
train = optimizer.minimize(log_x_squared)

Step 2

初始化必要的变量，并调用优化器为其定义并使用各自函数调用它。

init = tf.initialize_all_variables()

def optimize():
   with tf.Session() as session:
      session.run(init)
      print("starting at", "x:", session.run(x), "log(x)^2:", session.run(log_x_squared))

      for step in range(10):
         session.run(train)
         print("step", step, "x:", session.run(x), "log(x)^2:", session.run(log_x_squared))
optimize()

上面这一行代码生成的输出如以下截图所示 −

initialize variables

我们可以看到必要的 epoch 和迭代如输出所示已经计算出来。