聚类算法模型

小咪咪 2023-09-28 17:03 7阅读 0赞

来源：数学建模清风学习内容整理

--------------------

### 文章目录 ###

*  K-means聚类
 *   *   *  算法模型
         *  SPSS操作
 *  系统（层次）聚类
 *   *   *  算法模型
         *  SPSS操作
         *   *  确定分几类：用图形估计聚类的数量
 *  DBSCAN算法
 *   *   *  ：具有噪声的基于密度的聚类算法
         *  matlab实现

**分类是已知类别的，聚类是未知的**

*  K均值法需要自己定义分几类（K类）
 *  系统聚类可以先聚类，然后再根据聚合系数来确定分几类

![在这里插入图片描述][74ee29556446457680c505e38c0f973c.png]

--------------------

# K-means聚类 #

--------------------

### 算法模型 ###

![在这里插入图片描述][a568a4b8382e4153aef8e3fb446be6ac.png]  
![在这里插入图片描述][1269979cf2244a1cb32657545166a29b.png]  
![在这里插入图片描述][285ae47e5c954bdab48fc75e309f3abc.png]  
![在这里插入图片描述][dc8c7372320a4a83a0a7c08668f4d01c.png]  
![在这里插入图片描述][b72057e5a2c243f49c9adceb1acf928e.png]

--------------------

### SPSS操作 ###

*  需要**统一量纲**
 *  **迭代次数**可以视情况增多以达到收敛效果好  
    ![在这里插入图片描述][7024c0de154f47d3a613998390a3cd76.png]

> ![在这里插入图片描述][85faeb7dbbae4093ba3587f05e324462.png]  
> 可以利用SPSS来对数据标准化

--------------------

# 系统（层次）聚类 #

### 算法模型 ###

![在这里插入图片描述][b353c77a2ec04e37a6da0be09d96034e.png]  
![在这里插入图片描述][1c13ad7d5b694627bb3e6213a021c63e.png]  
![在这里插入图片描述][934b01c360ca40e387457fc41cdbf441.png]

![在这里插入图片描述][24e6dc54eb2e4143b9414009684f660f.png]

*  **距离近的样品聚为一类**  
    ![在这里插入图片描述][3b29a92b4e9342b7bbe9a09c9458818d.png]  
    ![在这里插入图片描述][108f0b3d12444bedbc1099d1e7014b9c.png]  
    ![在这里插入图片描述][e7cade52d6494ac9a466e817c27d1a00.png]

> **类间距离**：  
> ![在这里插入图片描述][69c88063f76d443ebbdb35f42792fca7.png]  
> ![在这里插入图片描述][4f66908e22d444b796a5f8bab47c21b2.png]  
> ![在这里插入图片描述][cfb143fd0b9049b682fea52959a3e5df.png]  
> ![在这里插入图片描述][499feaa8984c48bf9dfcf4b307acd094.png]  
> ![在这里插入图片描述][96f85519e8a8491a9e1ae0cde48a0721.png]

--------------------

### SPSS操作 ###

![在这里插入图片描述][1aacd25afbe04d6bb9c2b683c4b3d69a.png]

![在这里插入图片描述][bf8c4809e02a4526aaa5a730bf05ce29.png]

--------------------

#### 确定分几类：用图形估计聚类的数量 ####

![在这里插入图片描述][46607d6f0e404060a7839a9e91fc441c.png]

*  使用SPSS进行系统聚类可以得到聚类系数  
    ![在这里插入图片描述][4f513a900da54414838063745445ff8c.png]  
    ![在这里插入图片描述][5cdb3ebeb0e244f883a324a10b6a81b9.png]

![在这里插入图片描述][8cfe0f51de3649a1bd198cdc68357b15.png]

>  *  按不同指标个数可以画不同维度的图  
>     **可以调整颜色！！！**
> 
> ![在这里插入图片描述][0c5cc20873974aebad29f231decee0a3.png]

--------------------

# DBSCAN算法 #

### ：具有噪声的基于密度的聚类算法 ###

*  K均值、系统聚类是基于距离，DBSCAN是基于**密度**。

![在这里插入图片描述][a19bf638d73549d69ed4135081293523.png]  
![在这里插入图片描述][a9840c5897a244c3898f48c3dec8705b.png]  
![在这里插入图片描述][39179dbad0db40988d15873a20419d07.png]  
![在这里插入图片描述][aebe5f497d7f45a1bd76bd2918e453ea.png]

### matlab实现 ###

*  主函数

clc;
    clear;
    close all;
    
    %% Load Data
    
    load mydata;
    
    
    %% Run DBSCAN Clustering Algorithm
    
    epsilon=0.5;     %聚类半径
    MinPts=10;       %最小聚类点：大于Minpts才能分为一类
    IDX=DBSCAN(X,epsilon,MinPts);
    
    
    %% Plot Results
    % 如果只要两个指标的话就可以画图啦
    PlotClusterinResult(X, IDX);
    title(['DBSCAN Clustering (\epsilon = ' num2str(epsilon) ', MinPts = ' num2str(MinPts) ')']);

*  被调用的DBCSCAN函数：

function [IDX, isnoise]=DBSCAN(X,epsilon,MinPts)
    
        C=0;
        
        n=size(X,1);
        IDX=zeros(n,1);  % 初始化全部为0，即全部为噪音点
        
        D=pdist2(X,X);
        
        visited=false(n,1);
        isnoise=false(n,1);
        
        for i=1:n
            if ~visited(i)
                visited(i)=true;
                
                Neighbors=RegionQuery(i);
                if numel(Neighbors)<MinPts
                    % X(i,:) is NOISE
                    isnoise(i)=true;
                else
                    C=C+1;
                    ExpandCluster(i,Neighbors,C);
                end
                
            end
        
        end
        
        function ExpandCluster(i,Neighbors,C)
            IDX(i)=C;
            
            k = 1;
            while true
                j = Neighbors(k);
                
                if ~visited(j)
                    visited(j)=true;
                    Neighbors2=RegionQuery(j);
                    if numel(Neighbors2)>=MinPts
                        Neighbors=[Neighbors Neighbors2];   %#ok
                    end
                end
                if IDX(j)==0
                    IDX(j)=C;
                end
                
                k = k + 1;
                if k > numel(Neighbors)
                    break;
                end
            end
        end
        
        function Neighbors=RegionQuery(i)
            Neighbors=find(D(i,:)<=epsilon);
        end
    
    end

*  被调用的画图函数

[74ee29556446457680c505e38c0f973c.png]: https://img-blog.csdnimg.cn/74ee29556446457680c505e38c0f973c.png
[a568a4b8382e4153aef8e3fb446be6ac.png]: https://img-blog.csdnimg.cn/a568a4b8382e4153aef8e3fb446be6ac.png
[1269979cf2244a1cb32657545166a29b.png]: https://img-blog.csdnimg.cn/1269979cf2244a1cb32657545166a29b.png
[285ae47e5c954bdab48fc75e309f3abc.png]: https://img-blog.csdnimg.cn/285ae47e5c954bdab48fc75e309f3abc.png
[dc8c7372320a4a83a0a7c08668f4d01c.png]: https://img-blog.csdnimg.cn/dc8c7372320a4a83a0a7c08668f4d01c.png
[b72057e5a2c243f49c9adceb1acf928e.png]: https://img-blog.csdnimg.cn/b72057e5a2c243f49c9adceb1acf928e.png
[7024c0de154f47d3a613998390a3cd76.png]: https://img-blog.csdnimg.cn/7024c0de154f47d3a613998390a3cd76.png
[85faeb7dbbae4093ba3587f05e324462.png]: https://img-blog.csdnimg.cn/85faeb7dbbae4093ba3587f05e324462.png
[b353c77a2ec04e37a6da0be09d96034e.png]: https://img-blog.csdnimg.cn/b353c77a2ec04e37a6da0be09d96034e.png
[1c13ad7d5b694627bb3e6213a021c63e.png]: https://img-blog.csdnimg.cn/1c13ad7d5b694627bb3e6213a021c63e.png
[934b01c360ca40e387457fc41cdbf441.png]: https://img-blog.csdnimg.cn/934b01c360ca40e387457fc41cdbf441.png
[24e6dc54eb2e4143b9414009684f660f.png]: https://img-blog.csdnimg.cn/24e6dc54eb2e4143b9414009684f660f.png
[3b29a92b4e9342b7bbe9a09c9458818d.png]: https://img-blog.csdnimg.cn/3b29a92b4e9342b7bbe9a09c9458818d.png
[108f0b3d12444bedbc1099d1e7014b9c.png]: https://img-blog.csdnimg.cn/108f0b3d12444bedbc1099d1e7014b9c.png
[e7cade52d6494ac9a466e817c27d1a00.png]: https://img-blog.csdnimg.cn/e7cade52d6494ac9a466e817c27d1a00.png
[69c88063f76d443ebbdb35f42792fca7.png]: https://img-blog.csdnimg.cn/69c88063f76d443ebbdb35f42792fca7.png
[4f66908e22d444b796a5f8bab47c21b2.png]: https://img-blog.csdnimg.cn/4f66908e22d444b796a5f8bab47c21b2.png
[cfb143fd0b9049b682fea52959a3e5df.png]: https://img-blog.csdnimg.cn/cfb143fd0b9049b682fea52959a3e5df.png
[499feaa8984c48bf9dfcf4b307acd094.png]: https://img-blog.csdnimg.cn/499feaa8984c48bf9dfcf4b307acd094.png
[96f85519e8a8491a9e1ae0cde48a0721.png]: https://img-blog.csdnimg.cn/96f85519e8a8491a9e1ae0cde48a0721.png
[1aacd25afbe04d6bb9c2b683c4b3d69a.png]: https://img-blog.csdnimg.cn/1aacd25afbe04d6bb9c2b683c4b3d69a.png
[bf8c4809e02a4526aaa5a730bf05ce29.png]: https://img-blog.csdnimg.cn/bf8c4809e02a4526aaa5a730bf05ce29.png
[46607d6f0e404060a7839a9e91fc441c.png]: https://img-blog.csdnimg.cn/46607d6f0e404060a7839a9e91fc441c.png
[4f513a900da54414838063745445ff8c.png]: https://img-blog.csdnimg.cn/4f513a900da54414838063745445ff8c.png
[5cdb3ebeb0e244f883a324a10b6a81b9.png]: https://img-blog.csdnimg.cn/5cdb3ebeb0e244f883a324a10b6a81b9.png
[8cfe0f51de3649a1bd198cdc68357b15.png]: https://img-blog.csdnimg.cn/8cfe0f51de3649a1bd198cdc68357b15.png
[0c5cc20873974aebad29f231decee0a3.png]: https://img-blog.csdnimg.cn/0c5cc20873974aebad29f231decee0a3.png
[a19bf638d73549d69ed4135081293523.png]: https://img-blog.csdnimg.cn/a19bf638d73549d69ed4135081293523.png
[a9840c5897a244c3898f48c3dec8705b.png]: https://img-blog.csdnimg.cn/a9840c5897a244c3898f48c3dec8705b.png
[39179dbad0db40988d15873a20419d07.png]: https://img-blog.csdnimg.cn/39179dbad0db40988d15873a20419d07.png
[aebe5f497d7f45a1bd76bd2918e453ea.png]: https://img-blog.csdnimg.cn/aebe5f497d7f45a1bd76bd2918e453ea.png