numpy的reshape和transpose机制解释

深碍√TFBOYSˉ_ 2022-10-28 14:24 215阅读 0赞

### 文章目录 ###

*  ndarray的base和strides属性
 *   *  base
     *  strides
 *  reshape
 *  transpose
 *  总结

reshape和transpose都是非常高效的算子，究其原因，是因为二者均没有在内存中重新排列数据，只是对数据的shape或strides等信息进行了改变。下面分别简介。

# ndarray的base和strides属性 #

为了更好地理解reshape和transpose算子，需要对ndarray的`shape, base, strides`三个属性有所了解，其中shape很容易理解，就不多说了，下面简单介绍一下base和strides。

## base ##

base参考：https://numpy.org/doc/stable/reference/generated/numpy.ndarray.base.html

如果一个ndarray是通过其他ndarray经过某种操作创建出来的，那么其base就会指向最初的源头。  
比如下面例子中，`a`是`b, c`的源头，所以`b.base 和 c.base` 都等于`a`，而`a`本身没有base，所以是None。

import numpy as np
    
    a = np.array([0, 1, 2, 3, 4, 5])
    print(a)  # ==> [0 1 2 3 4 5]
    print(a.base)  # ==> None
    
    b = a.reshape([2, 3])
    print(b)  # ==>
    # [[0 1 2]
    # [3 4 5]]
    print(b.base)  # ==> [0 1 2 3 4 5]
    
    c = b.transpose([1, 0])
    print(c)  # ==>
    # [[0 3]
    # [1 4]
    # [2 5]]
    print(c.base)  # ==> [0 1 2 3 4 5]

## strides ##

strides参考：https://numpy.org/doc/stable/reference/generated/numpy.ndarray.strides.html

ndarray的每一个维度（axis）都有一个strides，表示从数组在某个维度进行遍历的`内存偏移量`。

比如在下面的例子中，数组`a`三个维度的strides分别是`(48, 16, 4)`，意思是：

*  从`a[0, 0, 0]`到`a[0, 0, 1] = 1`的内存偏移量是4字节，1个int型数字是4字节
 *  从`a[0, 0, 0]`到`a[0, 1, 0] = 4`的内存偏移量是16字节，因为需要偏移4个int型数字
 *  从`a[0, 0, 0]`到`a[1, 0, 0] = 12`的内存偏移量是48字节，因为需要偏移12个int型数字

import numpy as np
    
    a = np.arange(24).reshape([2, 3, 4])
    
    print(a.strides)  # ==> (48, 16, 4)
    print(a)  # ==>
    # [[[ 0 1 2 3]
    # [ 4 5 6 7]
    # [ 8 9 10 11]]
    #
    # [[12 13 14 15]
    # [16 17 18 19]
    # [20 21 22 23]]]

# reshape #

reshape仅仅只是改变了数组的shape属性，比如把shape从 ( 4 , ) (4,) (4,)改成 ( 2 , 2 ) (2,2) (2,2)。通过下面的测试代码，可以明白reshape的下列性质：

*  如果我们从最后一个维度开始，依次向前循环打印数组的话，会发现无论怎么样reshape，数组打印的顺序不会发生任何变化。也就是说无论reshape多少次，数组打印顺序不变。
 *  类似于python的浅拷贝，reshape之后，尽管变量发生了变化，但是变量内的数据体却未被碰过。下面列子中，改变reshape后的`b`的第一个值，发现所有相关的变量的第一个值都发生了变化，所以就可以知道，经reshape后，变量用于保存数据的那块内存没有被碰过。

import numpy as np
    
    a = np.arange(4)  # a = torch.arange(4)
    print(a)  # ==> [0 1 2 3]
    print(a.shape)  # ==> (4,)
    
    b = a.reshape([2, 2])  # b = a.reshape([2, 2])
    print(b)  # ==> [[0 1], [2 3]]
    print(b.shape)  # ==> (2, 2)
    
    c = b.reshape([-1])  # c = torch.reshape(b, [-1])
    print(c)  # ==> [0 1 2 3]
    
    b[0, 0] = 100
    print(a)  # ==> [100 1 2 3]
    print(b)  # ==> [[100 1], [2 3]]
    print(c)  # ==> [100 1 2 3]

# transpose #

transpose改变了数组的维度（axis）排列顺序。比如对于二维数组，如果我们把两个维度的顺序互换，那就是我们很熟悉的矩阵转置。而transpose可以在更多维度的情况下生效。transpose的入参是输出数组的维度排列顺序，序号从0开始计数。

下面例子中我们改变了transpose后的`b`的第一个元素的值，发现`a`也随之改变，说明transpose也没有去碰数组的内存。那么问题来了，既然数组没有在内存中重新排列，那么打印顺序是受什么影响而发生了改变呢？是strides。

import numpy as np
    
    a = np.arange(24).reshape([2, 3, 4])
    print(a.base)  # ==>
    # [ 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23]
    
    print(a.shape)  # ==> (2, 3, 4)
    print(a.strides)  # ==> (48, 16, 4)
    print(a)  # ==>
    # [[[ 0 1 2 3]
    # [ 4 5 6 7]
    # [ 8 9 10 11]]
    #
    # [[12 13 14 15]
    # [16 17 18 19]
    # [20 21 22 23]]]
    
    b = a.transpose([1, 2, 0])
    print(b.shape)  # ==>(3, 4, 2)
    print(b.strides)  # ==> (16, 4, 48)
    print(b)  # ==>
    # [[[ 0 12]
    # [ 1 13]
    # [ 2 14]
    # [ 3 15]]
    #
    # [[ 4 16]
    # [ 5 17]
    # [ 6 18]
    # [ 7 19]]
    #
    # [[ 8 20]
    # [ 9 21]
    # [10 22]
    # [11 23]]]
    
    
    b[0, 0, 0] = 100
    print(a)  # ==>
    # [[[100 1 2 3]
    # [ 4 5 6 7]
    # ...]]]
    
    print(b)  # ==>
    # [[[100 12]
    # [ 1 13]
    # ...]]]

下面图示一下strides的含义。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieTE5ODc_size_16_color_FFFFFF_t_70_pic_center]

首先明确一个很重要的概念，strides都是相对于base数组而言进行遍历的，所以无论是`a`还是`b`，遍历时需要参考的源头都是`a.base / b.base`，也就是最上面的一维数组。

数组`a`的strides情况我们前面已经讲过了，接下来主要看看`b`。

*  由于b.strides最后一个维度的值是48，所以`b[0, 0, 1]`是`b[0, 0, 0]`在`b.base`中偏移48字节后的数字，也就是`12`。
 *  b.strides中间维度的值是4，所以`b[0, 1, 0]`是`b[0, 0, 0]`在`b.base`中偏移4字节后的数字，也就是`1`。
 *  b.strides第一个维度的值是16，所以`b[1, 0, 0]`是`b[0, 0, 0]`在`b.base`中偏移16字节后的数字，也就是`4`。

所以ranspose操作只是改变了strides的顺序，没有重新排列内存中的数据。

# 总结 #

前面我们在解释reshape和transpose的机制时，分别从ndarray的shape和strides属性进行了侧重解释。实际上reshape既改变shape也改变strides，而transpose也可能会改变shape。

但这两个算子均不会在内存中重新排列数据。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieTE5ODc_size_16_color_FFFFFF_t_70_pic_center]: /images/20221024/bc042cc0cb8c41a0add910232cb2174b.png