头歌 分布式文件系统HDFS 答案

第1关：HDFS的基本操作

  在右侧命令行中启动Hadoop，进行如下操作。
  

• 在HDFS中创建/usr/output/文件夹；
  

  

• 在当地创建hello.txt文件并添加内容：“HDFS的块比磁盘的块大，其目标是为了最小化寻址开销。”；
  

  

• 将hello.txt上传至HDFS的/usr/output/目次下；
  

  

• 删除HDFS的/user/hadoop目次；
  

  

• 将Hadoop上的文件hello.txt从HDFS复制到当地/usr/local目次。
  

1. start-dfs.sh
2. hadoop fs -mkdir /usr
3. hadoop fs -mkdir /usr/output
4. vim hello.txt
5. hadoop fs -put hello.txt /usr/output
6. hadoop fs -rm -r /user/hadoop
7. hadoop fs -copyToLocal /usr/output/hello.txt /usr/local

复制代码

第2关：HDFS-JAVA接口之读取文件

  在右侧代码编辑区中编写代码实现如下功能：
  

• 使用FSDataInputStream获取HDFS的/user/hadoop/目次下的task.txt的文件内容，并输出，此中uri为hdfs://localhost:9000/user/hadoop/task.txt。
  

1. package step2;
3. import java.io.IOException;
4. import java.io.InputStream;
5. import java.net.URI;
7. import org.apache.hadoop.conf.Configuration;
8. import org.apache.hadoop.fs.FileSystem;
9. import org.apache.hadoop.fs.Path;
10. import org.apache.hadoop.io.IOUtils;
13. public class FileSystemCat {
14.    
15.     public static void main(String[] args) throws IOException {
16.         //请在Begin-End之间添加你的代码，完成任务要求。
17.         /********* Begin *********/
18.         URI uri = URI.create("hdfs://localhost:9000/user/hadoop/task.txt");
19.         Configuration config = new Configuration();
20.         FileSystem fs = FileSystem.get(uri,config);
21.         InputStream in = null;
22.         try{
23.             in = fs.open(new Path(uri));
24.             IOUtils.copyBytes(in, System.out,2048,false);
25.         }catch (Exception e){
26.             IOUtils.closeStream(in);
27.         }
28.         
29.         
30.         /********* End *********/
31.     }
32. }

复制代码

  第3关：HDFS-JAVA接口之上传文件

  在右侧代码编辑区和命令行中，编写代码与脚本实现如下功能：
  

• 在/develop/input/目次下创建hello.txt文件，并输入如下数据：迢迢牵牛星，皎皎河汉女。纤纤擢素手，札札弄机杼。终日不成章，泣涕零如雨。河汉清且浅，相去复几许？盈盈一水间，脉脉不得语。《迢迢牵牛星》
  

  

• 使用FSDataOutputStream对象将文件上传至HDFS的/user/tmp/目次下，并打印进度。
  

  先在命令行创建文件，并启动hadoop

1. mkdir /develop
2. mkdir /develop/input
3. cd /develop/input
4. vim hello.txt
5. start-dfs.sh

复制代码

            

           然后在代码文件中写入：

1. package step3;
4. import java.io.BufferedInputStream;
5. import java.io.FileInputStream;
6. import java.io.FileNotFoundException;
7. import java.io.IOException;
8. import java.io.InputStream;
9. import java.net.URI;
10. import java.io.File;
12. import org.apache.hadoop.conf.Configuration;
13. import org.apache.hadoop.fs.FSDataOutputStream;
14. import org.apache.hadoop.fs.FileSystem;
15. import org.apache.hadoop.fs.Path;
16. import org.apache.hadoop.io.IOUtils;
17. import org.apache.hadoop.util.Progressable;
20. public class FileSystemUpload {
21.    
22.     public static void main(String[] args) throws IOException {
23.         //请在 Begin-End 之间添加代码，完成任务要求。
24.         /********* Begin *********/
25. File localPath = new File("/develop/input/hello.txt");
26.         String hdfsPath = "hdfs://localhost:9000/user/tmp/hello.txt";
27.         InputStream in = new BufferedInputStream(new FileInputStream(localPath));
28.         Configuration config = new Configuration();
29.         FileSystem fs = FileSystem.get(URI.create(hdfsPath), config);
30.         long fileSize = localPath.length() > 65536 ? localPath.length() / 65536 : 1;
31.         FSDataOutputStream out = fs.create(new Path(hdfsPath), new Progressable() {
32.             long fileCount = 0;
33.             public void progress() {
34.                 System.out.println("总进度" + (fileCount / fileSize) * 100 + "%");
35.                 fileCount++;
36.             }
37.         });
38.         IOUtils.copyBytes(in, out, 2048, true);
39.         
40.         
41.         
42.         /********* End *********/
43.     }
44. }

复制代码

  
  
  第4关：HDFS-JAVA接口之删除文件

  在右侧代码区添补代码，实现如下功能：
  

• 删除HDFS的/user/hadoop/目次（空目次）；
  

  

• 删除HDFS的/tmp/test/目次（非空目次）；
  

  

• 列出HDFS根目次下全部的文件和文件夹；
  

  

• 列出HDFS下/tmp/的全部文件和文件夹。
  

  
  先在命令行启动hadoop

1. start-dfs.sh

复制代码

然后在代码文件中写入：

1. package step4;
4. import java.io.IOException;
5. import java.net.URI;
7. import org.apache.hadoop.conf.Configuration;
8. import org.apache.hadoop.fs.FileStatus;
9. import org.apache.hadoop.fs.FileSystem;
10. import org.apache.hadoop.fs.FileUtil;
11. import org.apache.hadoop.fs.Path;
15. public class FileSystemDelete {
16.    
17.     public static void main(String[] args) throws IOException {
18.         //请在 Begin-End 之间添加代码，完成本关任务。
19.         /********* Begin *********/
20.         String root = "hdfs://localhost:9000/";
21.         String path = "hdfs://localhost:9000/tmp";
22.         String del1 = "hdfs://localhost:9000/user/hadoop";
23.         String del2 = "hdfs://localhost:9000/tmp/test";
24.         Configuration config = new Configuration();
25.         FileSystem fs = FileSystem.get(URI.create(root),config);
26.         fs.delete(new Path(del1),true);
27.         fs.delete(new Path(del2),true);
28.         Path[] paths = {new Path(root),new Path(path)};
29.         FileStatus[] status = fs.listStatus(paths);
30.         Path[] listPaths = FileUtil.stat2Paths(status);
32.         for (Path path1 : listPaths){
33.   System.out.println(path1);
34.         }
35.         
36.         
37.         /********* End *********/
38.     }
39. }

复制代码

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。