theano学习初步(一)

向右看齐 2022-07-18 04:04 213阅读 0赞

此文源于[Theano官方教程][Theano]，例子源于官方教程以及[此处][Link 1]

代码和例子都收录在[我的github][github]中，求斧正，求粉求星星。

## 两个标量相加 ##

代码如下

import numpy
    import theano.tensor as T
    from theano import function
    # 第一步，声明两个数学意义上的变量
    x = T.dscalar('x') # 浮点标量
    y = T.dscalar('y')
    z = x + y
    # f 返回的是一个0维度的numpy.ndarray
    f = function([x, y], z) # 这儿会有一个明显的延时，因为function需要编译成C语言 
    print f(2, 3)
    print numpy.allclose(f(16.3, 12.1), 28.4)

### 第一步 ###

x = T.dscalar('x')
    y = T.dscalar('y')

在theano中每一个符号（就是代码层次的变量）都要有一个类型([Type][])，这样就能让底层的C语言更好地处理代码。  
比如，`T.dscalar`是一个“0-多维的浮点数(d)数组（标量）”，这是一种类型而不是一个类。所以x和y都不是`dscalar`的实例，而是`TensorVariable`的实例。但是x和y的类型是`dscalar`，代码如下

>>> type(x)
    <class 'theano.tensor.var.TensorVariable'>
    >>> x.type
    TensorType(float64, scalar)
    >>> T.dscalar
    TensorType(float64, scalar)
    >>> x.type is T.dscalar
    True

可以给每个变量附上名字，但是这不是必须的，一般用于debug。附上名字的方式就是上文代码传入一个字符。

### 第二步 ###

第二部分是将x和y相加得到z

z = x + y

z是一个变量，用于表示x和y的和。可以用pp函数来打印出得出z的过程。

>>> from theano import pp
    >>> print(pp(z))
    (x + y)

### 第三步 ###

最后一步是创建一个function，x和y是输入，z是输出

f = function([x, y], z)

第一个参数是一个变量数组，表示function的输入。第二个参数是一个变量或者一个变量数组，表示我们期盼的输出。  
`f`可以作为一般的python函数使用。

> 注意:  
> 为了简便，也可以跳过第三步，只是用`eval`方法。但是`eval()`方法不如`function()`灵活，但是它也可以做到所有我们在教程中做到的东西。

import numpy
    import theano.tensor as T
    x = T.dscalar('x')
    y = T.dscalar('y')
    z = x + y
    print numpy.allclose(z.eval({
       x : 16.3, y : 12.1}), 28.4)

> 我们通过像`eval()`传递一个字典来表示theano变量的值，这个值可以代替这些变量参与运算。  
> `eval()`的第一次调用会比较慢，因为它要调用`function()`去编译解释。

--------------------

## 两个矩阵相加 ##

这个依葫芦画瓢就可以大致解决了。

import numpy
    import theano.tensor as T
    from theano import function x = T.dmatrix('x')
    y = T.dmatrix('y')
    z = x + y
    f = function([x, y], z)
    print f([[1, 2], [3, 4]], [[10, 20], [30, 40]])
    print f(numpy.array([[1, 2], [3, 4]]), numpy.array([[10, 20], [30, 40]]))

`dmatrix`是用于表示浮点矩阵的类型，所以我们的`f`就可以用于一个二维的数列。  
我们也可以用`numpy.array`作为输入。

当然，将标量加到矩阵，将向量加到矩阵，将标量加到向量等等都是可以的。这种操作被称为[broadcasting][]

下面罗列一些Theano的类型：

*  byte: `bscalar, bvector, bmatrix, brow, bcol, btensor3, btensor4`
 *  16-bit integers: `wscalar, wvector, wmatrix, wrow, wcol, wtensor3, wtensor4`
 *  32-bit integers: `iscalar, ivector, imatrix, irow, icol, itensor3, itensor4`
 *  64-bit integers: `lscalar, lvector, lmatrix, lrow, lcol, ltensor3, ltensor4`
 *  float: `fscalar, fvector, fmatrix, frow, fcol, ftensor3, ftensor4`
 *  double: `dscalar, dvector, dmatrix, drow, dcol, dtensor3, dtensor4`
 *  complex: `cscalar, cvector, cmatrix, crow, ccol, ctensor3, ctensor4`

## 习题 ##

参照代码

import theano
    a = theano.tensor.vector() # declare variable
    out = a + a ** 10               # build symbolic expression
    f = theano.function([a], out)   # compile function
    print(f([0, 1, 2]))

写出a2\+b2\+2∗a∗b的代码。

from __future__ import print_function
    import theano
    a = theano.tensor.vector()  # declare variable
    b = theano.tensor.vector()  # declare variable
    out = a ** 2 + b ** 2 + 2 * a * b  # build symbolic expression
    f = theano.function([a, b], out)   # compile function
    print(f([1, 2], [4, 5]))  # prints [ 25. 49.]

[Theano]: http://deeplearning.net/software/theano/tutorial/adding.html#baby-steps-algebra
[Link 1]: http://www.programcreek.com/python/index/6617/theano.tensor
[github]: https://github.com/Mr-Phoebe/ProgramLanguage/tree/master/Theano%20Example/01.%20Baby%20Steps
[Type]: http://deeplearning.net/software/theano/extending/graphstructures.html#type
[broadcasting]: http://deeplearning.net/software/theano/library/tensor/basic.html#libdoc-tensor-broadcastable