入门 | Tensorflow实战讲解神经网络搭建详细过程

  • 时间:
  • 浏览:4
  • 来源:小贝博客 - 专注共享吾皇千睡博客资源

作者 | AI小昕

编辑 | 磐石

出品 | 磐创AI技术团队

【磐创AI导读】:本文完整版介绍了神经网络在实战过程中的构建与调节法子。

完后 .我.我讲了神经网络的起源、单层神经网络、多层神经网络的搭建过程、搭建要能注意到的具体问题报告 、以及解决那此问题报告 的具体法子。本文将通过1个 经典的案例:MNIST手写数字识别,以代码的形式来为.我.我梳理一遍神经网络的整个过程。

一 、MNIST手写数字数据集介绍

MNIST手写数字数据集来源于是美国国家标准与技术研究所,是著名的公开数据集之一,通常你这名数据集要能被作为下行速率 学习的入门案例。数据集中的数字图片是由23000个不同职业的人纯手写绘制,数据集获取的网址为:http://yann.lecun.com/exdb/mnist/。(下载后需解压)

具体来看,MNIST手写数字数据集包含高300000张图片作为训练集数据,300000张图片作为测试集数据,且每1个 训练元素要能 28*28像素的手写数字图片,每一张图片代表的是从0到9中的每个数字。该数据集样之类下图所示:

有刚刚.我.我把每一张图片中的像素转换为向量,则得到长度为28*28=784的向量。有刚刚.我.我要能 把MNIST数据训练集看作是1个 [300000,784]的张量,第1个 维度表示图片的索引,第六个维度表示每张图片中的像素点。而图片里的每个像素点的值介于0-1之间。如下图所示:

此外,MNIST数据集的类标是介于0-9的数字,共10个类别。通常.我.我要用独热编码(One_Hot Encoding)的形式表示那此类标。所谓的独热编码,直观的讲统统 用N个维度来对N个类别进行编码,有刚刚对于每个类别,要能1个 维度有效,记作数字1 ;其它维度均记作数字0。之类类标1表示为:([0,1,0,0,0,0,0,0,0,0]);同理标签2表示为:([0,0,1,0,0,0,0,0,0,0])。最后.我.我通过softmax函数输出的是每张图片属于10个类别的概率。

 、网络底部形态的设计

接下来通过Tensorflow代码,实现MINIST手写数字识别的过程。首先,如多线程 1所示,.我.我导入多线程 所要能的库函数、数据集:

多线程 1:

import tensorflow as tf

from tensorflow.examples.tutorials.mnist import input_data

接下来,.我.我读取MNIST数据集,并指定用one_hot的编码法子;有刚刚定义batch_size、batch_num1个 变量,分别代表一次性传入神经网络进行训练的批次大小,以及计算出训练的次数。如多线程 2所示:

多线程 2:

mnist_data=input_data.read_data_sets(“MNIST.data”,one_hot=True)

batch_size=3000

batch_num=mnist_data.train.num_examples//batch_size

.我.我要能注意的是:在执行第一句命令时,就会从默认的地方下载MNIST数据集,下载下来的数据集会以压缩包的形式存到指定目录,如下图所示。那此数据分别代表了训练集、训练集标签、测试集、测试集标签。

接着.我.我定义1个 placeholder,多线程 如下所示:

多线程 3:

x = tf.placeholder(tf.float32,[None,784])

y = tf.placeholder(tf.float32,[None,10])

其中,x代表训练数据,y代表标签。具体来看,.我.我会把训练集中的图片以batch_size批次大小,分批传入到第1个 参数中(默认为None);X的第六个参数代表把图片转换为长度为784的向量;Y的第六个参数表示10个不同的类标。

接下来.我.我就要能 结束英语 构建1个 简单的神经网络了,首先定义各层的权重w和偏执b。如多线程 4所示:

多线程 4:

weights = {

    ‘hidden_1’: tf.Variable(tf.random_normal([784, 256])),

    ‘out’: tf.Variable(tf.random_normal([256, 10]))

}

biases = {

    ‘b1’: tf.Variable(tf.random_normal([256])),

    ‘out’: tf.Variable(tf.random_normal([10]))

}

有刚刚.我.我准备搭建1个 含高1个 隐藏层底部形态的神经网络(当然要要能 搭建1个 或是多个隐层的神经网络),统统不难 设置其每层的w和b。如上多线程 所示,该隐藏层含高256个神经元。接着.我.我就要能 结束英语 搭建每一层神经网络了:

多线程 5:

def neural_network(x):

    hidden_layer_1 = tf.add(tf.matmul(x, weights[‘hidden_1’]), biases[‘b1’])

    out_layer = tf.matmul(hidden_layer_1, weights[‘out’]) + biases[‘out’]

    return out_layer

如多线程 5所示,.我.我定义了1个 含高1个 隐藏层神经网络的函数neural_network,函数的返回值是输出层的输出结果。

接下来.我.我定义损失函数、优化器以及计算准确率的法子。

多线程 6:

#调用神经网络

result = neural_network(x)

#预测类别

prediction = tf.nn.softmax(result)

#平方差损失函数

loss = tf.reduce_mean(tf.square(y-prediction))

#梯度下降法

train_step = tf.train.GradientDescentOptimizer(0.2).minimize(loss)

#预测类标

correct_pred = tf.equal(tf.argmax(y,1),tf.argmax(prediction,1))

#计算准确率

accuracy = tf.reduce_mean(tf.cast(correct_pred,tf.float32))

#初始化变量

init = tf.global_variables_initializer()

如多线程 6所示:首先使用softmax函数对结果进行预测,有刚刚确定 平方差损失函数计算出loss,再使用梯度下降法的优化法子对loss进行最小化(梯度下降法的学习率设置为0.2)。接着使用argmax函数返回最大的值所在的位置,再使用equal函数与正确的类标进行比较,返回1个 bool值,代表预测正确或错误的类标;最后使用cast函数把bool类型的预测结果转换为float类型(True转换为1,False转换为0),并对所有预测结果统计求平均值,算出最后的准确率。要注意:最后一定不难 多忘了对多线程 中的所有变量进行初始化。

最后一步,.我.我启动Tensorflow默认会话,执行上述过程。代码如下所示:

多线程 7:

step_num=300

with tf.Session() as sess:

    sess.run(init)

    for step in range(step_num+1):

        for batch in range(batch_num):

            batch_x,batch_y =  mnist_data.train.next_batch(batch_size)

            sess.run(train_step,feed_dict={x:batch_x,y:batch_y})

        acc = sess.run(accuracy,feed_dict={x:mnist_data.test.images,y:mnist_data.test.labels})

        print(“Step ” + str(step) + “,Training Accuracy “+  “{:.3f}” + str(acc))

    print(“Finished!”)

上述多线程 定义了MNIST数据集的运行阶段,首先.我.我定义迭代的周期数,往往结束英语 的完后 准确率会随着迭代次数快速提高,但渐渐地随着迭代次数的增加,准确率提升的幅度会不难 小。而对于每一轮的迭代过程,.我.我用不同批次的图片进行训练,每次训练3000张图片,每次训练的图片数据和对应的标签分别保处于 batch_x、batch_y中,接着再用run法子执行你这名迭代过程,并使用feed_dict的字典底部形态填充每次的训练数据。循环往复上述过程,直到最后一轮的训练结束英语 。

最后.我.我利用测试集的数据检验训练的准确率,feed_dict填充的数据分别是测试集的图片数据和测试集图片对应的标签。输出结果迭代次数和准确率,完成训练过程。.我.我截取300次的训练结果,如下图所示:

以上.我.我便完成了MNIST手写数字识别模型的训练,接下来要能 从以下几方面对模型进行改良和优化,以提高模型的准确率。

首先,在计算损失函数时,要能 确定 交叉熵损失函数来代替平方差损失函数,通常在Tensorflow下行速率 学习中,softmax_cross_entropy_with_logits函数会和softmax函数搭配使用,是有刚刚交叉熵在面对多分类问题报告 时,迭代过程中权值和偏置值的调整更加合理,模型收敛的下行速率 更加快,训练的的效果也更加好。代码如下所示:

多线程 8:

#预测类别

prediction = tf.nn.softmax(result)

#交叉熵损失函数

loss = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(labels=y,logits=prediction))

#梯度下降法

train_step = tf.train.GradientDescentOptimizer(0.2).minimize(loss)

#预测类标

correct_pred = tf.equal(tf.argmax(y,1),tf.argmax(prediction,1))

#计算准确率

accuracy = tf.reduce_mean(tf.cast(correct_pred,tf.float32))

如多线程 8所示:.我.我把1个 参数:类标y以及模型的预测值prediction,传入到交叉熵损失函数softmax_cross_entropy_with_logits中,有刚刚对函数的输出结果求平均值,再使用梯度下降法进行优化。最终的准确率如下图所示:

.我.我要能 明显看了,使用交叉熵损失函数对于模型准确率的提高还是显而易见的,训练过程迭代3000次的准确率有刚刚超过了平方差损失函数迭代300次的准确率。

除了改变损失函数,.我.我还要能 改变优化算法。之类使用adam优化算法代替随机梯度下降法,有刚刚它的收敛下行速率 要比随机梯度下降快一点 ,统统 也要能使准确率有所提高。如下多线程 所示,.我.我使用学习率为0.001的AdamOptimizer作为优化算法(其它主次不变):

多线程 9:

#Adam优化算法

train_step = tf.train.AdamOptimizer(1e-2).minimize(loss)

此外,有刚刚你了解了过拟合的概念,不难 很容易要能 联想到测试集准确率不高的愿因,有刚刚是有刚刚训练过程中处于了“过拟合”的问题报告 。统统.我.我要能 从解决过拟合的下行速率 出发,提高模型的准确率。.我.我要能 采用增加数据量或是增加正则化项的法子,来缓解过拟合。这里,.我.我为.我.我介绍dropout的法子是要怎样缓解过拟合的。

Dropout是在每次神经网络的训练过程中,使得主次神经元工作而另外一主次神经元不工作。而测试的完后 激活所有神经元,用所有的神经元进行测试。统统 便要能 有效的缓解过拟合,提高模型的准确率。具体代码如下所示:

多线程 10:

def neural_network(x):

    hidden_layer_1 = tf.add(tf.matmul(x, weights[‘hidden_1’]), biases[‘b1’])

    L1 = tf.nn.tanh(hidden_layer_1)

    dropout1 = tf.nn.dropout(L1,0.5)

    out_layer = tf.matmul(dropout1, weights[‘out’]) + biases[‘out’]

    return out_layer

如多线程 10所示,.我.我在隐藏层后接了dropout,随机关掉3000%的神经元,最后的测试结果如下图所示,.我.我发现准确率取得了显著的提高,在神经网络底部形态中不难 打上去卷积层和池化层的具体情况下,准确率达到了92%以上。 

本文由

磐创AI

发布在

ITPUB

,转载此文请保持文章完整版性,并请附上文章来源(ITPUB)及本页链接。

原文链接:http://www.itpub.net/2019/06/23/2258/