【实践】数据挖掘DM课程课业打卡实验3 分类器性能度量

迷南。 2023-02-18 01:49 1阅读 0赞

### 【实践】数据挖掘DM课程课业打卡实验3 分类器性能度量 ###

*  一、实验目的
 *  二、实验内容
 *   *  1、编程实现ROC曲线绘制的函数roc\_plot。
     *  2、（难度2）编程实现ROC曲线绘制的函数roc\_plot。

***叮嘟！这里是小啊呜的学习课程资料整理。好记性不如烂笔头，今天也是努力进步的一天。一起加油进阶吧！***  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQzNTQzNzg5_size_16_color_FFFFFF_t_70_pic_center]

# 一、实验目的 #

（1）理解分类器性能度量的方法。  
（2）编程ROC曲线绘制。

# 二、实验内容 #

## 1、编程实现ROC曲线绘制的函数roc\_plot。 ##

**其中，分类概率使用matlab自带的朴素贝叶斯函数得到。**

测试代码如下：

load('testingData.mat')
    load('trainingData.mat')
    nb = NaiveBayes.fit(trAttr, trLabels);
    p=posterior (nb,tstAttr);
    y1=p(:,2);
    [auc1 ,FPR1 ,TPR1 ]  = roc_plot(y1,tstLabels);

（将执行正确的roc\_plot函数代码粘贴在此处，核心代码要求有注释）

% load('testingData.mat')
    % load('trainingData.mat')
    % nb = NaiveBayes.fit(trAttr, trLabels);
    % p=posterior (nb,tstAttr);
    % y1=p(:,2);
    % [auc1 ,FPR1 ,TPR1 ]  = roc_plot(y1,tstLabels);
     
    function [AUC,FPR,TPR]  = roc_plot(deci,label_y)
    [val,ind]=sort(deci);
    roc_y=label_y(ind);
    Num=length(roc_y);
    FPR=zeros(Num,1);
    TPR=zeros(Num,1);
    for i=1:Num
        TP=sum(roc_y(i:end)==1);
        FP=sum(roc_y(i:end)==0);
        P=sum(roc_y(:)==1);
        N=sum(roc_y(:)==0);
        TPR(i)=TP/P;
        FPR(i)=FP/N;
    end
    TPR=[TPR;0];
    FPR=[FPR;0];
    AUC=0;
     
    for i=2:Num+1
        AUC=AUC+TPR(i)*(FPR(i-1)-FPR(i));
    end
    figure,plot(FPR,TPR);
     
    xlabel('False Positive Rate');
    ylabel('True Positive Rate');
    title(['ROC curve (AUC = ' num2str(AUC) ')']);
    end

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQzNTQzNzg5_size_16_color_FFFFFF_t_70_pic_center 1]

## 2、（难度2）编程实现ROC曲线绘制的函数roc\_plot。 ##

**其中，分类概率使用自己编写的朴素贝叶斯函数bys\_post1得到。**

测试代码如下：

load('testingData.mat')
    load('trainingData.mat')
    [post4all]=bys_post1(trAttr, trLabels,tstAttr);
    y2=post4all(:,1);
    [auc2 ,FPR2 ,TPR2 ]  = roc_plot(y2,tstLabels);

（将执行正确的bys\_post1函数代码粘贴在此处，核心代码要求有注释）

function [Params,prior,AllLabels] = NaiveBayesTrain1(trAttr, trLabels)
    %NaiveBayesTrain只处理连续分类，不处理分类属性；
    
    AllLabels = unique(trLabels);
    numClass = length(AllLabels);    %取得所有类标号的种类个数；
    
    for i =1:numClass
        ind=find(trLabels==AllLabels(i));
        Ind4Class{ i,1}=ind;
        prior(i)=length(ind)/length(trLabels);
    end
    
    numAttr=size(trAttr,2);
    Params{ numClass,numAttr}=[];%初始化参数cell；
    
    for AttrInd =1:numAttr
        AttrVals=trAttr(:,AttrInd);
        for i=1:numClass
            Params{ i,AttrInd}=GetParams4ContiAttr(AttrVals,Ind4Class{ i,1});
        end
    end
    end
    
    function Params1=GetParams4ContiAttr(AttrVals,ind)
    AttrVals4ThisClass=AttrVals(ind);
    Params1(1)=mean(AttrVals4ThisClass);   %求得均值；
    Params1(2)=var(AttrVals4ThisClass);    %求得方差；
    end
    
    function post=NaiveBayesPredict1(Params,prior,tstAttr)%%分类
    numClass=length(prior);    %取得类标号种类个数
    numAttr=length(tstAttr);
    post=[];
    for i=1;numClass
        p_AttrCond=1;
        for AttrInd=1;numAttr
            AttrVals=tstAttr(AttrInd);
                mean=Params{ i,AttrInd}(1);
                varriance=Params{ i,AttrInd}(2);
                sig=sqrt(varriance);
                
                p=(1/(sqrt(2*pi)*sig))*exp(-(AttrVals-mean)^2/(2*sig^2));
                p_AttrCond=p_AttrCond*p;
        end
        post(i)=p_AttrCond*prior(i);
    end
    end

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQzNTQzNzg5_size_16_color_FFFFFF_t_70_pic_center 2]

**Ending！**  
更多课程知识学习记录随后再来吧！

就酱，嘎啦！

![在这里插入图片描述][20200207152559955.png_pic_center]

注：  
人生在勤，不索何获。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQzNTQzNzg5_size_16_color_FFFFFF_t_70_pic_center]: https://img-blog.csdnimg.cn/202003012210578.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQzNTQzNzg5,size_16,color_FFFFFF,t_70#pic_center
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQzNTQzNzg5_size_16_color_FFFFFF_t_70_pic_center 1]: https://img-blog.csdnimg.cn/20200615102153525.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQzNTQzNzg5,size_16,color_FFFFFF,t_70#pic_center
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQzNTQzNzg5_size_16_color_FFFFFF_t_70_pic_center 2]: https://img-blog.csdnimg.cn/20200615102140865.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQzNTQzNzg5,size_16,color_FFFFFF,t_70#pic_center
[20200207152559955.png_pic_center]: https://img-blog.csdnimg.cn/20200207152559955.png#pic_center