吴恩达deep learning ai 笔记总结(1-1) 神经网络与深度学习-介绍

布满荆棘的人生 2023-06-23 05:58 28阅读 0赞

### 文章目录 ###

*  课程摘要
 *  What is neural network
 *   *  Simple neural network
     *  Multiple neural network
     *  Supervised leaning for Nenural Network
     *  Structured and Unstructured data
     *  Why is Deep Learning taking off
     *   *  深度学习过程

# 课程摘要 #

从这门课中我们可以学到：

*  神经网络和深度学习
 *  提高神经网络：超参数调整，正则化，优化
 *  构建你的机器学习项目
 *  卷积神经网络
 *  自然语言处理：建立RNN

# What is neural network #

神经网络是由人类大脑启发的学习算法  
下面通过房屋预测来了解神经网络

## Simple neural network ##

房地产市场中，当给定房屋的大小，想要通过一种适合的函数来预测价格

这是一个线性回归(linear regression)问题，因为价格随着房屋大小的函数连续输出

价格不会是负数，所以使用一种叫做ReLU(Rectified Linear Unit)的函数，起点为0。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5_size_16_color_FFFFFF_t_70]

这个函数就是一个神经元(neural)。  
这个神经网络构建如下。  
一个简单的神经网络有三个要素：

*  输入：size
 *  神经元：ReLU函数
 *  输出：price  
    ![在这里插入图片描述][20191217212155126.png]  
    利用这个神经网络，给定一个输入 x ，即可得到一个输出 y。

## Multiple neural network ##

思考一下影响房屋价格的特征：

*  大小：size
 *  房间数：\#bedrooms
 *  邮政编码：zip code
 *  价值：weath

而以上特征中：

size和\#bedrooms一起决定了家庭大小(family size);  
zip code决定了步行性(walkablity);  
zip code和weath一起决定了学校质量(school quality)。

因此，当给定一个输入时，在得到预测输出值以前，还生成了以上的隐藏因素(family size,walkability,school)，这些隐藏因素共同决定价格。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5_size_16_color_FFFFFF_t_70 1]

神经网络不能继续使用一个神经元，需建立多个神经元，其中，神经网络可以自动生成隐藏单元来预测价格。

下图为房屋预测的多神经元网络：  
包含的元素：

*  输入层 input layers
 *  隐藏层 output layers
 *  输出 y  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5_size_16_color_FFFFFF_t_70 2]  
    我们仅仅给定一个输入，即可得到一个输出。

## Supervised leaning for Nenural Network ##

监督式学习(Supervised leaning)是对于给定的数据，我们已经知道了输出大概是什么样子，我们有想法去建立一个关于input和output的关系

监督式学习问题分为两类：

*  Regression : 回归问题中输出是连续的
 *  Classification : 分类问题中输出是离散的

监督式学习应用：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5_size_16_color_FFFFFF_t_70 3]  
针对不同的应用场景，有多种不同的神经网络类别

*  卷积神经网络CNN：应用于图片
 *  递归神经网络：应用于一维序列数据，比如翻译语言

## Structured and Unstructured data ##

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5_size_16_color_FFFFFF_t_70 4]

## Why is Deep Learning taking off ##

传统的学习算法只适用于小的数据集，随着数据量增加，神经网络规模也随之扩大，性能越来越好

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5_size_16_color_FFFFFF_t_70 5]

### 深度学习过程 ###

*  建立idea
 *  编码
 *  做实验  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5_size_16_color_FFFFFF_t_70 6]  
    训练一个神经网络需要时间，快速的计算能帮助提高新算法

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20191217212132241.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5,size_16,color_FFFFFF,t_70
[20191217212155126.png]: https://img-blog.csdnimg.cn/20191217212155126.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5_size_16_color_FFFFFF_t_70 1]: https://img-blog.csdnimg.cn/20191217214024936.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5_size_16_color_FFFFFF_t_70 2]: https://img-blog.csdnimg.cn/20191217213106111.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5_size_16_color_FFFFFF_t_70 3]: https://img-blog.csdnimg.cn/20191217214932747.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5_size_16_color_FFFFFF_t_70 4]: https://img-blog.csdnimg.cn/20191217215353546.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5_size_16_color_FFFFFF_t_70 5]: https://img-blog.csdnimg.cn/20191217215636816.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5_size_16_color_FFFFFF_t_70 6]: https://img-blog.csdnimg.cn/20191217215851678.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tla2VfTWVtb3J5,size_16,color_FFFFFF,t_70