代码|MNIST集上实现逻辑回归，TensorFlow描述

第一步：导入相关包

import time

import numpy as np

import tensorflow as tf

from tensorflow.examples.tutorials.mnist import input_data

第二步：使用TensorFlow内置函数加载MNIST数据集到文件夹“mnist”，读取数据。

MNIST = input_data.read_data_sets("mnist/",one_hot = True)

注意，很多指导教程使用命令：MNIST = input_data . read_data_sets ( "/data/mnist" , one_hot = True )，很多时候可能由于网络问题会下载出错，所以，最好先将相关数据下载到文件夹“mnist”中。

第三步：定义模型参数

learning_rate = 0.01

batch_size = 128

n_epochs = 25

第四步：为特征和标签定义占位符（mnist中的每张图片形状是28 x 28=784。因此，每张图片被表示成1 x 784的张量。每张图片可能属于10类，对于于数字0-9。每个标签是一个one-hot矢量。）

X=tf.placeholder(tf.float32,[batch_size,784])

Y=tf.placeholder(tf.float32,[batch_size,10])

第五步：创建权重w和偏置b（w被初始化到均值为0，方差为0.01的随机变量；b初始化为0。w的形状取决于X和Y的维度，以便于能进行运行 Y = tf.matmul(X, w)；b的维度取决于Y。）

w=tf.Variable(tf.random_normal(shape=[784,10],stddev=0.01),name="weights")

b=tf.Variable(tf.zeros([1,10]),name="bias")

第六步：从Y和X中预测w，b（该模型返回图片所属可能类的概率分布，使用softmax层，形状为batch_size x 10 的张量表示对应数字的概率）

logits=tf.matmul(X,w)+b

第七步：定义损失函数（使用tf.nn.softmax_cross_entropy_with_logits()和loss=tf.reduce_mean(entropy)）学习交叉熵函数请点击Tensorflow中的交叉熵函数的使用

entropy=tf.nn.softmax_cross_entropy_with_logits(logits=logits,labels=Y)

loss=tf.reduce_mean(entropy)

第八步：定义训练操作（使用学习速率为0.01的梯度下降来最小化成本函数）

optimizer =tf.train.GradientDescentOptimizer(learning_rate = learning_rate).minimize(loss)

注意：区别iteration和epoch概念

epoch：在一个epoch中，所有训练集数据使用一次；

batch_size：一般情况下，一个训练集中会有大量的samples，为了提高训练速度，会将整个training set分为n_batch组，每组包含batch_size个samples。即：整个数据集samples个数 = batch_size * n_batch

iteration：利用某个batch的samples对model进行训练

第九步：启动会话，训练模型

输出结果：

Extracting mnist/train-images-idx3-ubyte.gz

Extracting mnist/train-labels-idx1-ubyte.gz

Extracting mnist/t10k-images-idx3-ubyte.gz

Extracting mnist/t10k-labels-idx1-ubyte.gz

Accuracy 0.9098

0.300498