1、机器学习算法KNN -- Java代码

刺骨的言语ヽ痛彻心扉 2022-07-16 02:55 186阅读 0赞

KNN是属于监督学习的分类算法。

晚上闲着无聊，就写了这个。

package algorithm.machine;
    
    import java.io.BufferedReader;
    import java.io.File;
    import java.io.FileNotFoundException;
    import java.io.FileReader;
    import java.io.IOException;
    import java.text.DecimalFormat;
    import java.util.ArrayList;
    import java.util.Collections;
    import java.util.Comparator;
    import java.util.HashMap;
    import java.util.List;
    import java.util.Map.Entry;
    
    /**
     * 1、KNN：机器学习分类算法
     * 
     * @author baolibin
     * 
     * K近邻模型由三个基本要素组成： 1、距离度量 2、K值选择 3、分类决策规则
     */
    public class _01_KNN {
    	static List<KNN> list = new ArrayList<KNN>(); //存储所有的训练数据
    	static HashMap<String, Integer> hashMap=new HashMap<String, Integer>(); //存储选中的K个训练数据
    	int k=5; //假设K值等于5
    
    	public static void main(String[] args) throws IOException {
    		_01_KNN _01_KNN = new _01_KNN();
    		_01_KNN.initialize("E:\\machinedata\\KNN\\datingTestSet.txt"); //读取训练数据
    		
    //		System.out.println("请输入K值大小：");
    		System.out.println("K值大小：5");
    //		System.out.println("请输入待分类的样本数据属性：");
    		System.out.println("待分类的样本数据属性：(1.889456, 1.178983, \"0\")");
    		KNN knn = new KNN(1.889456, 1.178983, "0"); //初始化待求点
    		_01_KNN.countDistince(knn); //调用函数进行计算
    		
    		//输出排序后的距离
    //		for (KNN knn2 : list) {
    //			System.out.println(knn2.distince+"、"+knn2.classify);
    //		}
    		//统计每个分类的个数
    		for (int i=0;i<5;i++) {
    			String classifys =list.get(i).classify;
    			if (hashMap.containsKey(classifys)) {
    				int count=hashMap.get(classifys);
    				count+=1;
    				hashMap.put(classifys, count);
    			}
    		}
    		System.out.println("\nK值内的指定分类     所属分类的个数");
    		//计算最大分类
    		int tmp=0;
    		String fenlei="0";
    		for (Entry<String, Integer> str : hashMap.entrySet()) {
    			if(tmp<=str.getValue()){
    				tmp=str.getValue();
    				fenlei=str.getKey();
    			}
    			System.out.println(str.getKey()+"、"+str.getValue());
    		}
    		//输出所属分类
    		System.out.println("该测试样例属于的分类是："+fenlei);
    	}
    	/**
    	 * 构造方法
    	 */
    	public _01_KNN(){
    		hashMap.put("1", 0);
    		hashMap.put("2", 0);
    		hashMap.put("3", 0);
    	}
    	/**
    	 * 读取训练数据
    	 * @param fileName 训练数据存放的路径
    	 * 0表示分类位置
    	 * 1、2、3表示对应的分类
    	 * @throws IOException
    	 */
    	public void initialize(String fileName) throws IOException {
    		File file = new File(fileName);
    		BufferedReader reader = null;
    		try {
    			if (file.isFile() && file.exists()) {
    				reader = new BufferedReader(new FileReader(file));
    				String tmpStr = null;
    				//一行读取一个样本点
    				while ((tmpStr = reader.readLine()) != null) {
    					//对每行数据进行切分
    					String[] split=tmpStr.split("\t");
    					if (split.length==4) {
    						//对于每行训练数据生成一个对象
    						KNN knn = new KNN(Double.parseDouble(split[1]), Double.parseDouble(split[2]), split[3]);
    //						System.out.println(split[1]+"、"+split[2]+"、"+split[3]);
    						list.add(knn);
    					}
    				}
    				reader.close();
    			}
    		} catch (FileNotFoundException e) {
    			e.printStackTrace();
    		}finally {
    			if (reader!=null) {
    				reader.close();
    			}
    		}
    	}
    	/**
    	 * 求待求点离训练数据的距离
    	 * 采用欧氏距离
    	 * @param knn 待求点
    	 */
    	public void countDistince(KNN knn){
    		DecimalFormat df = new DecimalFormat("######0.000000");    //double保留小数点后6位
    		for (KNN tmpknn : list) {
    			double dis=Math.sqrt(Math.pow((tmpknn.x-knn.x),2)+Math.pow((tmpknn.y-knn.y),2)); //计算欧氏距离
    			if (dis>=0.0) {
    //				tmpknn.distince=dis;
    				tmpknn.distince=Double.parseDouble(df.format(dis)); //进行格式化，保留小数点后6位
    			}
    		}
    		//对集合里面的元素按照距离远近进行升序排序
    		Collections.sort(list, new Comparator<KNN>() {
    			@Override
    			public int compare(KNN o1, KNN o2) {
    				return new Double(o1.distince).compareTo(new Double(o2.distince));
    			}
    		});
    	}
    }
    /**
     * 每个训练数据的实体类
     * @author baolibin
     */
    class KNN {
    	double x; // X坐标
    	double y; // Y坐标
    	double distince; // 距离中心点距离
    	String classify; // 所属分类
    
    	public KNN(double d, double e, String classify) {
    		this.x = d;
    		this.y = e;
    		distince = 0;
    		this.classify = classify;
    	}
    }

输入样本部分数据：

只用了后3列

40920	8.326976	0.953952	3
    14488	7.153469	1.673904	2
    26052	1.441871	0.805124	1
    75136	13.147394	0.428964	1
    38344	1.669788	0.134296	1
    72993	10.141740	1.032955	1
    35948	6.830792	1.213192	3
    42666	13.276369	0.543880	3
    67497	8.631577	0.749278	1
    35483	12.273169	1.508053	3
    50242	3.723498	0.831917	1
    63275	8.385879	1.669485	1
    5569	4.875435	0.728658	2
    51052	4.680098	0.625224	1
    77372	15.299570	0.331351	1
    43673	1.889461	0.191283	1
    61364	7.516754	1.269164	1
    69673	14.239195	0.261333	1
    15669	0.000000	1.250185	2

结果：

![Center][]

[Center]: /images/20220716/e08eb2d1e8d74ec4903cb8d96b987ed4.png