【sklearn】fit()、transform()和fit_transform()的区别

逃离我推掉我的手 2023-09-27 09:30 245阅读 0赞

fit(): Method calculates the parameters μ \mu μ and σ \sigma σ and saves them as internal objects

解释:简单来说,就是求得训练集X的均值、方差、最大值以及最小值等这些训练集X固有的属性。可以理解为一个训练过程。

transform(): Method using these calculated parameters apply the transformation to a particular dataset

解释:在fit的基础上,进行标准化,降维,归一化等操作(看具体用的是哪个工具,如PCA,StandardScaler等)。

fit_transform(): joins the fit() and transform() method for transformation of dataset

解释:fit_transform是fit和transform的组合,既包括了训练又包含了转换。

transform()fit_transform()二者的功能都是对数据进行某种统一处理(比如标准化服从N(0,1),将数据缩放(映射)到某个固定区间,归一化,正则化等)

fit_transform(training_data)对部分数据先拟合fit,找到该part的整体指标,如均值、方差、最大值最小值等等(根据具体转换的目的),然后对该training_data进行转换transform,从而实现数据的标准化、归一化等等。

根据对之前部分training_data进行fit的整体指标,对剩余的数据(test_data)使用同样的均值、方差、最大最小值等指标进行转换transform(test_data),从而保证train、test处理方式相同。所以,一般都是这么用:

实例讲解

通过 fit 函数可以先对需要归一化的数据集进行最大、最小值的计算,至于说最终归一化的结果是多少,对不起,fit 函数到此为止了。

所以,在 MinMaxScaler 的 fit 之后可以查看数据集中的最大、最小值:

  1. import numpy as np
  2. from sklearn.preprocessing import MinMaxScaler
  3. # 创建数组
  4. data_rn = np.random.randint(-10, 10, 10).reshape(5, 2)
  5. print(data_rn)
  6. # 进行标准归一化
  7. scaler_mmc = MinMaxScaler()
  8. scaler_mmc_fit = scaler_mmc.fit(data_rn)
  9. print(scaler_mmc_fit.data_min_) # 最小值
  10. print(scaler_mmc_fit.data_max_) # 最大值
  11. print(scaler_mmc_fit.data_range_) # 极差

我们看一下最终的结果:

  1. [[-10 1]
  2. [ -5 0]
  3. [ 7 3]
  4. [ -8 -1]
  5. [ 0 -8]]
  6. [-10. -8.]
  7. [7. 3.]
  8. [17. 11.]

同样的,使用 fit 函数也可以对需要标准化的数据集进行均值、标准差的计算。相应的函数方法如下:

  1. import numpy as np
  2. from sklearn.preprocessing import StandardScaler
  3. scaler_ss = StandardScaler()
  4. scaler_ss_fit = scaler_ss.fit(data_rn)
  5. print(scaler_ss_fit.mean_) # 均值
  6. print(scaler_ss_fit.var_) # 方差
  7. [-3.2 -1. ]
  8. [37.36 14. ]

总结一下 fit 的用法:

简单来说,就是求得数据集的均值、方差、最大值、最小值等固有的属性,经常和 transform 搭配使用。

从算法模型的角度上讲,fit 过程可以理解为一个训练过程。

其实 transform 才是真正做归一化和标准化的函数,fit 函数只是做了前面的准备工作。

从算法模型的角度上讲,transform 过程可以理解为一个转换过程。

用法也很简单,对前面 fit 过的数据集直接进行操作即可:

  1. # 归一化
  2. scaler_mmc_result = scaler_mmc.transform(data_rn)
  3. # 标准化
  4. scaler_ss_result = scaler_ss.transform(data_rn)

在这里插入图片描述

  1. scaler_ss_result

在这里插入图片描述
即 fit_transform 是 fit 和 transform 的组合,整个过程既包括了训练又包含了转换

fit_transform 对数据先拟合 fit,找到数据的整体指标,如均值、方差、最大值最小值等,然后对数据集进行转换transform,从而实现数据的标准化、归一化操作。

一定要注意:

不能对训练集和测试集都使用 fit_transform,虽然这样对测试集也能正常转换(归一化或标准化),但是两个结果不是在同一个标准下的,具有明显差异。

总结一下:

首先,如果要想在 fit_transform 的过程中查看数据的分布,可以通过分解动作先 fittransformfit 后的结果就包含了数据的分布情况。

如果不关心数据分布只关心最终的结果可以直接使用 fit_transform 一步到位。

其次,在项目上对训练数据和测试数据需要使用同样的标准进行转换,切记不可分别进行 fit_transform

发表评论

表情:
评论列表 (有 0 条评论,245人围观)

还没有评论,来说两句吧...

相关阅读

    相关 &&&区别

    &和&&都可以用作逻辑与的运算符,表示逻辑与(and),当运算符两边的表达式的结果都为true时,整个运算结果才为true,否则,只要有一方为false,则结果为false。

    相关 "&""&&"、"|""||"区别

    一、逻辑运算: 与操作:“&”表示所有的判断条件都要进行判断,“&&”如果前面的条件返回的是false,那么后面的条件将不再执行,最终的结果就是false。 或操作:“

    相关 &&&区别

    &和&&都可以用作逻辑与的运算符,表示逻辑与(and),当运算符两边的表达式的结果都为 true时,整个运算结果才为 true,否则,只要有一方为 false,则结果为 fal