Tensorflow快餐教程（3）- 向量

秒速五厘米 2022-05-26 04:44 193阅读 0赞

原文链接：[点击打开链接][Link 1]

摘要： Tensorflow向量操作

# 向量 #

向量在编程语言中就是最常用的一维数组。  
二维数组叫做矩阵，三维以上叫做张量。

向量虽然简单，高效，且容易理解。但是与操作0维的标量数据毕竟还是不同的。比如向量经常用于表示一个序列，生成序列像标量一样一个一个手工写就不划算了。当然可以用循环来写。在向量中这样还好，如果是在矩阵或者是张量中就强烈建议不要用循环来做了。系统提供的函数一般都是经过高度优化的，而且可以使用GPU资源来进行加速。  
我们一方面尽可能地多使用系统的函数，另一方面也不要迷信它们，代码优化是一个实践的过程，可以实际比较测量一下。

## 快速生成向量的方法 ##

### range函数生成等差数列 ###

tf.range函数用来快速生成一个等差数列。相当于之前我们讲numpy时的np.arange函数。

原型：

tf.range(start, limit, delta=1, dtype=None, name='range')

例：

>>> b11 = tf.range(1,100,1)
    >>> b11
    <tf.Tensor 'range:0' shape=(99,) dtype=int32>
    >>> sess.run(b11)
    array([ 1,  2,  3,  4,  5,  6,  7,  8,  9, 10, 11, 12, 13, 14, 15, 16, 17,
           18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34,
           35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51,
           52, 53, 54, 55, 56, 57, 58, 59, 60, 61, 62, 63, 64, 65, 66, 67, 68,
           69, 70, 71, 72, 73, 74, 75, 76, 77, 78, 79, 80, 81, 82, 83, 84, 85,
           86, 87, 88, 89, 90, 91, 92, 93, 94, 95, 96, 97, 98, 99],
          dtype=int32)

### linspace生成浮点等差数组 ###

tf.linspace与tf.range的区别在于，数据类型不同。

tf.lin_space(
        start,
        stop,
        num,
        name=None
    )

其中，start和stop必须是浮点数，且类型必须相同。num必须是整数。

例：

>>> a2 = tf.linspace(1.0,10.0,4)  
    >>> a2
    <tf.Tensor 'LinSpace_2:0' shape=(4,) dtype=float32>
    >>> sess.run(a2)
    array([ 1.,  4.,  7., 10.], dtype=float32)

### 拼瓷砖 ###

就是将一段向量重复若干次。

>>> a10 = tf.range(1,4,1)
    >>> sess.run(a10)
    array([1, 2, 3], dtype=int32)
    >>> a11 = tf.tile(a10,[3])
    >>> sess.run(a11)
    array([1, 2, 3, 1, 2, 3, 1, 2, 3], dtype=int32)

## 向量操作 ##

### 将向量反序 ###

可以使用tf.reverse函数。  
原型：

tf.reverse(
        tensor,
        axis,
        name=None
    )

tensor是向量，axis轴对于向量不重要，给个\[-1\]就可以了。折腾轴是张量时间的事情，暂时还用不到。

>>> a2 = tf.linspace(1.0,10.0,4)
    >>> a3 = tf.reverse(a2,[-1])
    >>> sess.run(a3)
    array([10.,  7.,  4.,  1.], dtype=float32)

### 切片 ###

切片也是向量的常用操作之一，就是取数组的一部分。

例：

>>> a5 = tf.linspace(1.0,100.0, 10)
    >>> sess.run(a5)
    array([  1.,  12.,  23.,  34.,  45.,  56.,  67.,  78.,  89., 100.],
          dtype=float32)
    >>> a6 = tf.slice(a5, [2],[4])
    >>> sess.run(a6)
    array([23., 34., 45., 56.], dtype=float32)

将来处理张量时，我们从一个矩阵切一块，或从一个张量中切一块，就好玩得多了。但是原理跟向量上是一样的。

### 连接 ###

tf.concat也是需要给定轴信息的。对于两个线性的向量，我们给0或者-1就好。

>>> a20 = tf.linspace(1.0,2.0,10)
    >>> sess.run(a20)
    array([1.       , 1.1111112, 1.2222222, 1.3333334, 1.4444444, 1.5555556,
           1.6666667, 1.7777778, 1.8888888, 2.       ], dtype=float32)
    >>> a21 = tf.linspace(2.0,3.0,5)
    >>> sess.run(a22)
    array([1.       , 1.1111112, 1.2222222, 1.3333334, 1.4444444, 1.5555556,
           1.6666667, 1.7777778, 1.8888888, 2.       , 2.       , 2.25     ,
           2.5      , 2.75     , 3.       ], dtype=float32)
    >>> a23 = tf.concat([a20,a21],-1)
    >>> sess.run(a23)
    array([1.       , 1.1111112, 1.2222222, 1.3333334, 1.4444444, 1.5555556,
           1.6666667, 1.7777778, 1.8888888, 2.       , 2.       , 2.25     ,
           2.5      , 2.75     , 3.       ], dtype=float32)

## 向量计算 ##

### 向量加减法 ###

同样长度的向量之间可以进行加减操作。

例：

>>> a40 = tf.constant([1,1])
    >>> a41 = tf.constant([2,2])
    >>> a42 = a40 + a41
    >>> sess.run(a42)
    array([3, 3], dtype=int32)
    >>> a43 = a40 - a41
    >>> sess.run(a43)
    array([-1, -1], dtype=int32)
    >>> a43
    <tf.Tensor 'sub:0' shape=(2,) dtype=int32>

### 向量乘除标量 ###

向量乘除标量也非常好理解，就是针对向量中的每个数都做乘除法。

例：

>>> a44 = a40 * 2
    >>> sess.run(a44)
    array([2, 2], dtype=int32)
    >>> a45 = a44 / 2  
    >>> sess.run(a45)
    array([1., 1.])
    >>> a44
    <tf.Tensor 'mul:0' shape=(2,) dtype=int32>
    >>> a45
    <tf.Tensor 'truediv_1:0' shape=(2,) dtype=float64>

### 广播运算 ###

如果针对向量和标量进行加减运算，也是会对向量中的每个数进行加减运算。这种操作称为广播操作。

例：

>>> a46 = a40 + 1
    >>> sess.run(a46)
    array([2, 2], dtype=int32)
    >>> a46
    <tf.Tensor 'add_1:0' shape=(2,) dtype=int32>

### 向量乘法 ###

两个向量相乘，默认的运算是求元素对应乘积（element-wise product)，也叫做Hadamard积。

例：

>>> b1 = tf.constant([1,2])
    >>> b2 = tf.constant([2,1])
    >>> b3 = b1 * b2
    >>> b3
    <tf.Tensor 'mul_7:0' shape=(2,) dtype=int32>
    >>> sess.run(b3)
    array([2, 2], dtype=int32)

直接调用tf.multiply也是同样的效果，例：

>>> b4 = tf.multiply(b1,b2)
    >>> b4   
    <tf.Tensor 'Mul_2:0' shape=(2,) dtype=int32>
    >>> sess.run(b4)
    array([2, 2], dtype=int32)

如果要计算点积(dot product)的话，我们得提前剧透一下矩阵的内容了。  
首先，用向量是没法做矩阵计算的。  
例：

>>> a21 = tf.constant([2,3]) 
    >>> a22 = tf.constant([4,5])
    >>> a21   
    <tf.Tensor 'Const_20:0' shape=(2,) dtype=int32>
    >>> a22
    <tf.Tensor 'Const_21:0' shape=(2,) dtype=int32>

这样(2,)的形状是向量，我们得先把它转换成(2,1)这样的单行矩阵，如下：

>>> a31 = tf.constant(sess.run(tf.reshape(a21,[2,1])))
    >>> a32 = tf.constant(sess.run(tf.reshape(a22,[2,1])))
    >>> a31
    <tf.Tensor 'Const_22:0' shape=(2, 1) dtype=int32>
    >>> a32
    <tf.Tensor 'Const_23:0' shape=(2, 1) dtype=int32>

下面我们终于可以计算点积了，我们知道点积A.B相当于A的转置乘以B，我们可以通过matmul函数来进行矩阵乘法。

>>> a31 = tf.matmul(a31,a32,transpose_a=True)
    >>> sess.run(a31)
    array([[23]], dtype=int32)

我们也可以用tf.tensordot函数来计算点积。我们刚才为什么没用呢？答案是tensordot要求是浮点型矩阵。  
例：  
第一步，需要浮点数：

>>> f01 = tf.constant([1,1],dtype=tf.float32) 
    >>> f02 = tf.constant([1,2],dtype=tf.float32)

第二步，reshape成单行矩阵：

>>> f11 = tf.constant(sess.run(tf.reshape(f01,[2,1])))
    >>> f12 = tf.constant(sess.run(tf.reshape(f02,[2,1])))
    >>> f11
    <tf.Tensor 'Const_26:0' shape=(2, 1) dtype=float32>
    >>> f12
    <tf.Tensor 'Const_27:0' shape=(2, 1) dtype=float32>

第三步，调用tensordot

>>> f13 = tf.tensordot(f11,f12,2)
    >>> sess.run(f13)
    3.0

## 小结 ##

从上面我们学习的函数我们可以看到，与普通语言中提供的函数多是为一维数组操作不同，Tensorflow中的切片、拼接等操作也是基于张量的。  
当我们后面学到张量遇到困难时，不妨回来看下这一节。不管后面张量多么复杂，其实也只是从一维向二维和多维推广而己。

[Link 1]: http://click.aliyun.com/m/47427/