TensorFlow添加层

刺骨的言语ヽ痛彻心扉 2022-06-06 01:18 214阅读 0赞

# TensorFlow添加层 #

## 定义Layer函数 ##

# 定义神经网络层函数，主要用于隐藏层和输出层
    # inputs代表输入的数据， inSize为数据的形状 outSize为隐藏增的神经元个数，也为输出数据的形状
    # activationFunction 激活函数，默认无激活函数
    def addLayer(inputs, inSize, outSize, activationFunction = None):
        #参数权重，为[inSize, outSize], 这样的shape保证[None, inSize] * [inSize, outSize] -> [None, outSize]
        Weights = tf.Variable(tf.random_normal([inSize, outSize]))
    
        #偏值量
        biases = tf.Variable(tf.zeros([1, outSize]) + 0.1)
    
        # y = wx+b
        Wx_plus_b = tf.matmul(inputs, Weights) + biases
    
        #判断激活函数类型，如果含有激活函数，则用将计算之后的结果代入到激活函数中
        if (activationFunction == None):
            outputs = Wx_plus_b
        else:
            outputs = activationFunction(Wx_plus_b)
        return outputs

## 生成数据并且使用自定义函数构造简易网络 ##

### 生成数据 ###

首先要引入`numpy`

# np.linspace 首先在(-1, 1)的范围内随机生成300个数据，此时的数据shape为[300]
    #然后使用[:, np.newaxis]为数据增加新的维度，使得数据shape变为[300, 1]，更加符合神经网络层的输入
    x_data = np.linspace(-1, 1, 300)[:, np.newaxis]
    # 使用标准分布增加数据的噪声，更符合现实的情况
    noise = np.random.normal(0, 0.05, x_data.shape)
    # 构造label便于后面的数据去拟合， 公式为 y = x^2 - 0.5 + noise
    y_data = np.square(x_data) - 0.5 + noise

### 构造TensorFlow静态图 ###

# 首先用placeholder进行数据输入的占位
    # xs代表x_data特征集， ys代表y_data标签集
    # [None, 1]其中的None表示可以接受任意数据，比如[300, 1], [200, 1]均可
    xs = tf.placeholder(tf.float32, [None, 1])
    ys = tf.placeholder(tf.float32, [None, 1])
    
    # 构造的神经网络比较简单， 输入层->隐藏层->输出层，其中输入层没有经过任何数据的处理，直接传递给隐藏层
    # l1即为隐藏层的输出结果
    l1 = addLayer(xs, 1, 10, activationFunction=tf.nn.relu)
    # 将隐藏层的输出结果输入到输出层
    prediction = addLayer(l1, 10, 1, activationFunction = None)
    
    # 定义损失函数并且获取得分
    loss = tf.reduce_mean(tf.reduce_sum(tf.square(ys - prediction),
                        reduction_indices = [1]))
    # 使用梯度下降的方法尽可能使得得分变小
    trainStep = tf.train.GradientDescentOptimizer(0.1).minimize(loss)
    
    # 初始化所有变量
    init = tf.global_variables_initializer()

### 运行并且测试 ###

sess = tf.Session()
    sess.run(init)
    
    # 使用feed_dict方法进行数据的传递
    for i in range(1000):
        # 训练神经网络
        sess.run(trainStep, feed_dict={xs: x_data, ys: y_data})
        # 每训练十次都打印损失函数的得分
        if (i % 10 == 0):
            print(sess.run(loss, feed_dict={xs: x_data, ys: y_data}))

本次的测试结果如下：

0.408044
    0.042095
    0.0234594
    0.0153761
    0.0116188
    0.00984213
    0.00896606
    0.00850269
    0.00822794
    0.0080349
    0.00787353
    0.00771781
    0.0075565
    0.00736698
    0.00716479
    0.00694218
    0.00670778
    0.00646676
    0.00623493
    0.00602524
    0.00581546
    0.00560978
    0.00541947
    0.00524356
    0.00508945
    0.00495025
    0.00482728
    0.00471622
    0.00460683
    0.00450857
    0.00441656
    0.00432332
    0.00423094
    0.0041416
    0.00405463
    0.00397824
    0.00391034
    0.00384803
    0.0037916
    0.00373465
    0.00367961
    0.00362825
    0.00358264
    0.00354028
    0.00349731
    0.00345405
    0.00341362
    0.0033765
    0.00334153
    0.00330927
    0.00327839
    0.00324938
    0.00322374
    0.00320061
    0.00317964
    0.00316037
    0.00314154
    0.00312421
    0.00310797
    0.00309304
    0.00307956
    0.00306671
    0.00305612
    0.00304605
    0.00303622
    0.00302659
    0.00301729
    0.00300821
    0.00299906
    0.00299026
    0.00298176
    0.00297344
    0.00296548
    0.00295778
    0.00294998
    0.0029421
    0.00293454
    0.00292742
    0.00292049
    0.0029126
    0.0029048
    0.00289735
    0.00289039
    0.00288368
    0.00287663
    0.00286961
    0.00286284
    0.00285636
    0.0028501
    0.00284401
    0.00283784
    0.00283177
    0.00282585
    0.00282004
    0.00281438
    0.0028089
    0.00280358
    0.00279832
    0.00279303
    0.00278789