baicaiBC3的博客

代码示例：import tensorflow as tfimport osos.environ['TF_CPP_MIN_LOG_LEVEL'] = '2'state = tf.Variable(1)state_ = tf.assign(state, 10)with tf.Session() as sess: sess.run(tf.global_variables_initializer()) print(sess.run(state)) print(sess.run

给定误差函数，学习率，甚至目标变量的大小，训练神经网络可能变得不稳定。训练期间权重的较大更新会导致数值上溢或下溢，通常称为梯度爆炸（gradients exploding）。梯度爆炸在递归神经网络中更为常见，例如LSTM，因为梯度的累积在数百个输入时间步长上展开。梯度爆炸的一种常见且相对容易的解决方案是：在通过网络向后传播误差并使用其更新权重之前，更改误差的导数。两种方法包括：给定选定的向量范数（ vector norm）来重新缩放梯度；以及裁剪超出预设范围的梯度值。这些方法一起被称为梯度裁剪（gra.

在这里插入图片描述

这里的evaluate和上面的validation_freq是一样的，区别在于什么呢？区别在在于validation_freq是在traing中间进行的，为什么中间进行呢？因为在training的时候，我也不知道traing什么时候是个头，有可能traing10天，有可能是3个月，有可能更久，那么什么时候停止呢？我这个时候，就会隔一段时间做一次validation_freq或者隔一段时间做一次test,比如根据（我再中间写一段代码if test_accuracy>0.99，我就把当前的状态save..

函数说明：tf.argmax( input, axis=None, name=None, dimension=None, output_type=tf.int64) 参数： input:输入矩阵 axis:默认为None name:默认为None dimension:默认为None output_type:默认类型为int64用途：返回最大的那个数值所在的下标（第一个参数是矩阵，第二个参数是0或者1。0表示的是按列比较返回最大值的索引，1表示按行

参数数量及其作用该函数共有十一个参数，常用的有：名称name、变量规格shape、变量类型dtype、变量初始化方式initializer、所属于的集合collections。 def get_variable(name, shape=None, dtype=None, initializer=None, regularizer=None,

注：这一步使用如下命令：pip3 install --user --upgrade tensorflow==1.15tensorflow1.15版本以前区分CPU和GPU ，1.15版本以后不再区分了。

Tesorflow官方安装教程：https://tensorflow.google.cn/install/pip?hl=zh_cnTensorflow非官方安装教程：http://c.biancheng.net/view/1881.html采用：pip install --ignore-installed --upgrade https://storage.googleapis.com/tensorflow/windows/cpu/tensorflow_cpu-2.6.0-cp39-cp39-win_a