CNN卷积神经网络手写数字集实现对抗样本与对抗攻击实战（附源码）

小咪咪 2023-09-30 18:17 1阅读 0赞

> **需要源码请点赞关注收藏后评论区留言私信~~~**

在讨论卷积神经网络时，给出了一个用卷积神经网络来完成手写体数学识别的示例，其TensorFlow2版本能达到0.986的识别率。用该卷积神经网络模型来示例对抗样本对神经网络模型的攻击。

用训练好的卷积神经网络模型对该对抗样本图片进行预测，得到错误结果为3。

![d20420c64f99433e84809e9929c03866.png][]

记原始样本为x，原始样本的对抗样本为x\_adv，添加的扰动为r。它们之间的关系为：

一般来讲，r应尽可能小，体现在对图像的攻击上，就是修改后的对抗样本尽量不被人眼察觉。 被攻击模型的输入输出关系用映射F来表示：

y=F(x)

其中，y为模型对样本x的预测值。

非定向对抗攻击是找到一个尽量小的r，使得：

F(x\_adv)=F(x+r)≠y

定向对抗攻击是指定输出的攻击。记指定的攻击目标为y\_target，定向对抗攻击就是找到一个尽量小的r，使得：

F(x\_adv)=y\_target≠y

原图片预测结果正确

![485b3cd3b2174c228498abab8a2d15b3.png][]

添加扰动后预测结果错误

![e8e7a5d9da324054ac634a4d6d8b03d8.png][]

部分代码如下

import matplotlib.pyplot as plt
    import numpy as np
    img = X_val[0]
    label = y_val[0]
    img = img.reshape(1, 28, 28, 1)
    img_predict = model.predict([img], batch_size=None)
    img1 = img.reshape(28, 28)
    plt.imshow(img1, cmap = 'binary')
    print('标签：', np.argmax(label), '模型预测：', np.argmax(img_predict))
    epsilon = 0.09
    adv_x = img + epsilon * perturbations.numpy()
    img_predict = model.predict([adv_x], batch_size=None)
    print(np.argmax(img_predict))
    plt.imshow(adv_x.reshape(28, 28), cmap = 'binary')
    import tensorflow as tf
    loss_object = tf.keras.losses.CategoricalCrossentropy()
    # 计算梯度
    def compute_grad(input_image, input_label):
        with tf.GradientTape() as g:
            g.watch(tensor=input_image) # 将输入样本作为要计算梯度的变量
            prediction = model(input_image)
            loss = loss_object(input_label, prediction)
    
        gradient = g.gradient(loss, input_image) # 求损失函数的梯度
        return gradient

**创作不易 觉得有帮助请点赞关注收藏~~~**

[d20420c64f99433e84809e9929c03866.png]: https://img-blog.csdnimg.cn/d20420c64f99433e84809e9929c03866.png
[485b3cd3b2174c228498abab8a2d15b3.png]: https://img-blog.csdnimg.cn/485b3cd3b2174c228498abab8a2d15b3.png
[e8e7a5d9da324054ac634a4d6d8b03d8.png]: https://img-blog.csdnimg.cn/e8e7a5d9da324054ac634a4d6d8b03d8.png