Educoder 分布式文件系统HDFS-通关答案

我会带着你远行 2022-11-14 10:18 112阅读 0赞

## 第1关：HDFS的基本操作 ##

开启hdfs  
start-hdfs.sh

在HDFS中创建/usr/output/文件夹；  
hdfs dfs -mkdir -p /usr/output

在本地创建hello.txt文件并添加内容：HDFS的块比磁盘的块大，其目的是为了最小化寻址开销。(标点符号为中文标点，敲击成英文标点会报错)

vim /usr/output/hello.txt 将hello.txt上传至HDFS的/usr/output/目录下；  
hdfs dfs -put hello.txt /usr/output 保险起见，查看文件是否上传成功  
hdfs dfs -cat /usr/output/hello.txt 删除HDFS的/user/hadoop目录；  
hdfs dfs -rm -r /user/hadoop 将Hadoop上的文件hello.txt从HDFS复制到本地/usr/local目录。  
hdfs dfs -copyToLocal /usr/output/hello.txt /usr/local  
测评

## 第2关：HDFS-JAVA接口之读取文件 ##

```java
     public class FileSystemCat {
         
    public static void main(String[] args) throws IOException {
        
    	//请在Begin-End之间添加你的代码，完成任务要求。
        /
    
    ```java
    ********* Begin *********/
    	URI uri = URI.create("hdfs://localhost:9000/user/hadoop/task.txt");
        Configuration config = new Configuration();
        FileSystem fs = FileSystem.get(uri, config);
        InputStream in = null;
        try {
        
            in = fs.open(new Path(uri));
            IOUtils.copyBytes(in, System.out, 2048, false);
        } catch (Exception e) {
        
            IOUtils.closeStream(in);
        }
    	
    
    	
    	/********* End *********/
    }
    
    
    123456789101112131415161718 
    }

## 第3关：HDFS-JAVA接口之上传文件 ##

首先打开命令行模式 mkdir -p /develop/input vim /develop/input/hello.txt  
编写模式下输入 迢迢牵牛星，皎皎河汉女。 纤纤擢素手，札札弄机杼。 终日不成章，泣涕零如雨。 河汉清且浅，相去复几许？ 盈盈一水间，脉脉不得语。  
《迢迢牵牛星》

esc :wq 回到代码模式

public class FileSystemUpload {
         
    public static void main(String[] args) throws IOException {
        
    	//请在 Begin-End 之间添加代码，完成任务要求。
        /********* Begin *********/
       File localPath = new File("/develop/input/hello.txt");
        String hdfsPath = "hdfs://localhost:9000/user/tmp/hello.txt";
    
        InputStream in = new BufferedInputStream(new FileInputStream(localPath));
        Configuration config = new Configuration();
    
        FileSystem fs = FileSystem.get(URI.create(hdfsPath), config);
        long fileSize = localPath.length() > 65536 ? localPath.length() / 65536 : 1;
    
        FSDataOutputStream out = fs.create(new Path(hdfsPath), new Progressable() {
        
            long fileCount = 0;
    
            public void progress() {
        
                System.out.println("总进度" + (fileCount / fileSize) * 100 + "%");
                fileCount++;
            }
        });
    
        IOUtils.copyBytes(in, out, 2048, true);
    	/********* End *********/
    }
    }

## 第4关：HDFS-JAVA接口之删除文件 ##

public class FileSystemDelete {
         
    public static void main(String[] args) throws IOException {
        
    	//请在 Begin-End 之间添加代码，完成本关任务。
        /********* Begin *********/
        String hadoop = "hdfs://localhost:9000/user/hadoop";
        String test = "hdfs://localhost:9000/tmp/test";
        String root = "hdfs://localhost:9000/";
        String tmp = "hdfs://localhost:9000/tmp";
    
        Configuration config = new Configuration();
        FileSystem fs = FileSystem.get(URI.create(root), config);
    
        fs.delete(new Path(hadoop), true);
        fs.delete(new Path(test), true);
    
        Path[] paths = {
        new Path(root), new Path(tmp)};
        FileStatus[] status = fs.listStatus(paths);
        Path[] listPaths = FileUtil.stat2Paths(status);
    
        for (Path path: listPaths) {
        
            System.out.println(path);
        }
    	/********* End *********/
    }
    }