【机器学习算法应用和学习_2_理论篇】2.2 M_分类_逻辑回归

红太狼 2023-10-11 09:43 13阅读 0赞

[【机器学习算法应用和学习\_2\_理论篇】2.2 M\_分类\_逻辑回归][2_2.2 M]

## 一、原理阐述 ##

--------------------

**算法类型：**监督学习\_分类算法

**输入：**数值型或标称型(标称型需要独热编码)

### V1.0 ###

--------------------

用回归方式解决二分类问题，通过引入一个Sigmoid函数将中间y值映射到实际二分类的y值上。

## 二、算法选择 ##

--------------------

## 三、算法过程 ##

--------------------

1.Sigmoid函数是一个x值域是(-∞,+∞)，y值域是(0,1)的单调递增函数；  
  
2.预测y值>0.5为1类，<0.5为0类，y值也可以解释为为1和0类的概率；  
  
3.同样使用“最小二乘”概念，求得最佳方程，得到目标函数；  
  
4.要使得目标函数达到最小，需要采用一种称为“梯度下降”的算法，其过程大致为：在一个类似山脉的超平面上，从任一点出发，计算偏导数，沿着偏导数为负的方向前进一定距离（称为“学习速率”），直到初始点与移动后的点差值变化很小（称为“收敛”）为止。  
  
度量：最小二乘，目标函数：最小二乘，目标函数解法：梯度下降

## 四、特点 ##

--------------------

**优点：**实现简单，易于理解和实现；计算代价不高，速度很快，存储资源低。  
  
**缺点：**容易欠拟合，分类精度可能不高。对异常值和缺失值敏感

## 五、代码API ##

--------------------

posted on 2019-08-13 19:23  [everda][] 阅读( ...) 评论( ...) [ 编辑][Link 1] 收藏

转载于:https://www.cnblogs.com/everda/p/11347959.html

[2_2.2 M]: https://www.cnblogs.com/everda/p/11347959.html
[everda]: https://www.cnblogs.com/everda/
[Link 1]: https://i.cnblogs.com/EditPosts.aspx?postid=11347959

发表评论取消回复

表情：

评论列表（有 0 条评论，13人围观）

还没有评论，来说两句吧...

相关阅读

相关机器学习逻辑回归分类评估方法

目录 1 分类评估方法 1.1 精确率与召回率 1.1.1 混淆矩阵 1.1.2 精确率与召回率

痛定思痛。/ 2024年04月03日 08:08/ 0 赞/ 146 阅读

相关【机器学习算法应用和学习_2_理论篇】2.2 M_分类_逻辑回归

[【机器学习算法应用和学习\_2\_理论篇】2.2 M\_分类\_逻辑回归][2_2.2 M] 一、原理阐述 -------------------- 算法类型：监督

红太狼/ 2023年10月11日 09:43/ 0 赞/ 14 阅读

相关【机器学习算法应用和学习_2_理论篇】2.1 决策树

[【机器学习算法应用和学习\_2\_理论篇】2.1 决策树][2_2.1] 一、原理阐述 -------------------- 算法类型：监督学习\_分类算法

浅浅的花香味﹌/ 2023年10月11日 09:42/ 0 赞/ 11 阅读

相关机器学习之分类算法应用篇

和上一篇聚类算法类似，本文主要分享一个包装好的使用sklearn中常用分类器分类结果对比的代码，方便初步比较模型的时候使用，程序运行结果如下图所示。先给出代码，后续再做详细分析

清疚/ 2023年06月28日 13:30/ 0 赞/ 47 阅读

相关机器学习算法之逻辑回归

目录线性回归做分类任务的问题逻辑回归详解逻辑回归名称的由来逻辑回归和线性回归的决策函数说一下sigmoid 逻辑回归决策函数结果中找分界线实现二分类

青旅半醒/ 2022年09月16日 01:20/ 0 赞/ 397 阅读

相关 [机器学习]逻辑回归

在分类问题中,不能再直接代入y=kx+b\1这种. ![70][] 而是直接采用逻辑回归 1/1+(e^-z) 这个e为自然底数约等于2.178 z=thet

快来打我*/ 2022年05月31日 11:37/ 0 赞/ 354 阅读

相关机器学习（2）回归与分类

1 回归与分类线性回归的损失函数选择时候，基于误差分布的客观假定，通过最大似然的计算法则得出了损失函数。其实在对一个样本分布进行建模和预测的时候，更本质上来讲是对一个

叁歲伎倆/ 2022年05月26日 01:13/ 0 赞/ 345 阅读

相关机器学习2 分类与逻辑回归

分类问题和线性回归问题很像，只是在分类问题中我们预测的 y y 值包含在一个小的离散数据集里。首先，认识一下二元分类(binary classification)，在二元分

今天药忘吃喽~/ 2022年05月18日 11:09/ 0 赞/ 355 阅读

相关机器学习算法系列(2)--逻辑回归

本文转载自[Logistic-Regression|endymecy][Logistic-Regression_endymecy] 逻辑回归一、二元逻辑回归回

男娘i/ 2022年05月17日 10:06/ 0 赞/ 370 阅读

相关机器学习算法04 - 逻辑回归

逻辑回归 > 机器学习基本算法之一的逻辑回归方法的基本原理，其要点如下：逻辑回归模型是对线性回归的改进，用于解决分类问题；逻辑回归输出的是实例属于每个类

左手的ㄟ右手/ 2022年01月23日 10:19/ 0 赞/ 382 阅读