Tensotflow1.0入门(九)-tensorflow分类函数

曾经终败给现在 2022-02-21 13:16 249阅读 0赞

# coding=utf-8
    ''' Created on 2019年4月5日 @author: admin '''
    
    import tensorflow as tf
    
    # tf.nn.sigmoid_cross_entropy_with_logits(_sentinel, labels, logits, name)
    # tf.nn.softmax(logits, axis, name, dim)
    # tf.nn.log_softmax(logits, axis, name, dim)
    # tf.nn.softmax_cross_entropy_with_logits(_sentinel, labels, logits, dim, name)
    # tf.nn.sparse_softmax_cross_entropy_with_logits(_sentinel, labels, logits, name)
    # tf.nn.softmax_cross_entropy_with_logits_v2(_sentinel, labels, logits, dim, name) 
    
    # tf.nn.softmax_cross_entropy_with_logits(v1)和tf.nn.softmax_cross_entropy_with_logits_v2(v2)区别在于前者在进行反向传播的时候，只对logits进行反向传播，labels保持不变。而v2在进行反向传播的时候，同时对logits和labels都进行反向传播，如果将labels传入的tensor设置为stop_gradients，就和v1一样了。 
    # 那么问题来了，一般我们在进行监督学习的时候，labels都是标记好的真值，什么时候会需要改变label？v2存在的意义是什么？实际上在应用中labels并不一定都是人工手动标注的，有的时候还可能是神经网络生成的，一个实际的例子就是对抗生成网络（GAN）。
    # 参考自https://blog.csdn.net/tsyccnh/article/details/81069308
    
    # # logits是神经网络的最后一层输出
    # logits:[batch_size,num_classes] lables:[batch_size,num_classes]或者[batch_size]
    # loss:[batch_size]
    
    # # tf.nn.softmax
    # a = tf.constant([[50.0,100.0],[0.2,4.0]])
    # b = tf.constant([[0.0,1.0],[0.0,1.0]])
    # c = tf.nn.softmax(logits=a)
    # cost = tf.reduce_mean(-tf.reduce_sum(b * tf.log(c), axis=1))
    # sess = tf.Session()
    # print(sess.run(cost))
    # # 0.011062144
    
    # #tf.nn.softmax_cross_entropy_with_logits(_sentinel, labels, logits, dim, name)
    # a = tf.constant([[0.0,99.0],[0.2,4.0]])
    # b = tf.constant([[0,1],[0,1]])#需要ONE-HOT形式
    # cost = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(logits=a, labels=b))
    # sess = tf.Session()
    # print(sess.run(cost))
    # 0.011062129
     
    # #tf.nn.sparse_softmax_cross_entropy_with_logits(_sentinel, labels, logits, name)
    # a = tf.constant([[0.0,99.0],[0.2,4.0]])
    # b = tf.constant([1,1])#不需要ONE-HOT形式
    # cost = tf.reduce_mean(tf.nn.sparse_softmax_cross_entropy_with_logits(logits=a, labels=b))
    # sess = tf.Session()
    # print(sess.run(cost))
    # 0.011062129
    
    #tf.nn.sigmoid_cross_entropy_with_logits(_sentinel, labels, logits, name)
    a = tf.constant([[9999.9],[-54.0]])
    b = tf.constant([[1.0],[1.0]])#2分法
    cost = tf.reduce_mean(tf.nn.sigmoid_cross_entropy_with_logits(logits=a, labels=b))
    sess = tf.Session()
    print(sess.run(cost))
    # 27.0