Python scikit-learn 模块svc方法的参数解释

女爷i 2022-06-12 13:58 502阅读 0赞

## 关于sklearn.svm.SVC的参数的学习 ##

翻译原链接：  
[http://scikit-learn.org/stable/modules/generated/sklearn.svm.SVC.html\#sklearn.svm.SVC][http_scikit-learn.org_stable_modules_generated_sklearn.svm.SVC.html_sklearn.svm.SVC]

class sklearn.svm.SVC(C=1.0, kernel='rbf', degree=3, gamma='auto', coef0=0.0, shrinking=True, probability=False, tol=0.001, cache_size=200, class_weight=None, verbose=False, max_iter=-1, decision_function_shape=None, random_state=None)

这是C-SVC，也叫软间隔SVM。  
它的实现是基于libsvm。它的训练时间复杂度比样本的二次方还多，所以很难扩展到超过10000个样本的情况。  
对于多分类问题是根据一对一模式解决的。  
如果想要了解具体的关于核函数的数学公式，以及内部参数是怎样相互影响的，可以参考这个文档。[核函数文档][Link 1]

## 解释函数中出现的参数： ##

*  C  
    float类型，可选参数，默认为1.0  
    惩罚因子  
    （对间隔误差的容忍度，在某种程度上控制着分类器的复杂性，也被称为复杂性参数，也是一种正则化）
 *  kernel  
    string类型，可选，默认为rbf，表示径向基函数  
    表示某种核函数类型。必须是 ‘linear’, ‘poly’, ‘rbf’, ‘sigmoid’, ‘precomputed’ ‘callable’的其中一种，有线性核函数，多项式，径向基等。  
    ![核函数种类][SouthEast]
 *  degree  
    int类型，可选，默认是3  
    表示多项式核函数的d， 和其他核函数无关。
 *  gamma  
    float类型，可选，默认是自动的。  
    这是‘poly’, ‘rbf’, ‘sigmoid’的核参数。如果是‘auto’，则值为1/特征数。
 *  coef0  
    float类型，可选，默认为0.0  
    在核函数中是独立的，是‘poly’, ‘sigmoid’函数中的 r 。
 *  probability  
    布尔类型，可选，默认为False  
    决定是否启用概率估计。需要在训练fit()模型时加上这个参数，之后才能用相关的方法：predict\_proba和predict\_log\_proba。
 *  shrinking  
    布尔类型，可选，默认是True。  
    决定是否使用启发式收缩。我也是不知道指的是什么？？？？
 *  tol  
    float类型，可选，默认是 1 e^-3  
    ”Tolerance for stopping criterion.”不知道该怎么翻译了？？
 *  cache\_size  
    float类型，可选的内核缓存区的大小，单位是MB。
 *  class\_weight  
    \{dict, ‘balanced’\}类型，可选参数  
    设置每个类i的权重c，得到class\_weight\[i\]\*C。如果没有给这个值，那么所有类的权重为1。“balanced”模式使用自动适应的权重，是和输入数据中某类数据出现的频率的成反比的值。
 *  verbose  
    布尔类型，默认是False  
    启用详细的输出。请注意，此设置利用libsvm中的每个进程运行时设置，如果启用，可能无法在多线程环境中正常工作。
 *  max\_iter  
    int类型，可选，默认为-1  
    求解器中的迭代次数限制，如果是-1表示没有限制。
 *  decision\_function\_shape  
    ‘ovo’, ‘ovr’ or None, 默认是None类型。  
    决策函数的类型。多分类情况使用可以选择“ovo”(one vs one 的缩写)，“ovr”(one vs rest的缩写)，否则默认是None。  
    我也不清楚这是什么参数？？
 *  random\_state  
    int类型，seed, RandomState instance, or None (default)  
    伪随机数发生器的种子在混洗数据时用于概率估计。
    
    ## 类的属性 ##
 *  support\_ ，support\_vectors\_ ，n\_support\_ ，

都是和支持向量有关的属性值。

*  dual\_coef\_  
    决策函数中支持向量的系数。在多类问题中，该系数也是针对所有1对1分类器的。
 *  coef\_  
    特征的权重，原始问题中系数，只在线性核函数中可用。
 *  intercept\_  
    决策函数中常数。
    
    ## 实例 ##

>>> import numpy as np
    >>> X = np.array([[-1, -1], [-2, -1], [1, 1], [2, 1]])
    >>> y = np.array([1, 1, 2, 2])
    >>> from sklearn.svm import SVC
    >>> clf = SVC()
    >>> clf.fit(X, y) 
    SVC(C=1.0, cache_size=200, class_weight=None, coef0=0.0,
        decision_function_shape=None, degree=3, gamma='auto', kernel='rbf',
        max_iter=-1, probability=False, random_state=None, shrinking=True,
        tol=0.001, verbose=False)
    >>> print(clf.predict([[-0.8, -1]]))
    [1]

看源码备注：  
1. 这个库实现SVC的方法是基于libsvm实现的；  
2. 其中每个方法，fit,predict等都分为两种情况，输入时稀疏矩阵或是稠密矩阵，因为不同输入矩阵训练的到的模型只能用于同类型的输入矩阵，预测才是准确的。  
3. 可能因为原理不是特别清楚，所以源码看的很糊涂。有时间再看一遍。

[http_scikit-learn.org_stable_modules_generated_sklearn.svm.SVC.html_sklearn.svm.SVC]: http://scikit-learn.org/stable/modules/generated/sklearn.svm.SVC.html#sklearn.svm.SVC
[Link 1]: http://scikit-learn.org/stable/modules/svm.html#svm-kernels%20%E6%A0%B8%E5%87%BD%E6%95%B0
[SouthEast]: /images/20220612/abdd8c0090d54da4a595a1b30fee9266.png