ToB企服应用市场:ToB评测及商务社交产业平台

标题: 04HDFS简介 [打印本页]
作者: 拉不拉稀肚拉稀    时间: 2023-2-3 01:32
标题: 04HDFS简介
HDFS简介

一、什么是HDFS

HDFS全称是Hadoop Distributed File System，简称HDFS。这是一个分布式文件系统，当数据规模大小超过一台物理计算机的存储能力时，就有必要进行分区并存储到若干台物理计算机上。管理网络中跨多台计算机的文件系统称为分布式文件系统。
Hadoop的文件系统是一个抽象的概念，java的抽象类是org.apache.hadoop.fs.FileSystem，在创建一个FileSystem的时候，FileSystem使用文件系统URI的Schema作为查询配置或者SPI寻找实现类（类似JDBC）。FileSystem有很多实现，HDFS只是其中的一个实现，它的实现类是org.apache.hadoop.hdfs.DistributedFileSystem，它的URI schema为hdfs。Hadoop默认配置的文件系统实现是org.apache.hadoop.fs.LocalFileSystem，URI schema为file，用于管理本地文件。
二、HDFS的基础概念

1、数据块

块设备（例如硬盘）一般会有一个默认块大小，这是设备读写的最小单位，这类设备的块大小一般为几千字节。HDFS同样有块的概念，默认情况下HDFS的块大小为128MB。但是与硬盘的文件系统不一样，当文件小于HDFS的块大小时，不会占用整个块的空间，例如一个1MB大小的文件只占用了1MB的空间，而不是128MB。HDFS的块比硬盘的大是为了最小化寻址开销，如果块足够大，从磁盘传输数据的时间会明显大于定位这个块位置需要的时间，所以传输一个大文件的时间取决于磁盘传输速率。
使用块来管理分布式文件系统有很多好处，例如一个文件可以大于某个物理设备的容量，文件并不需要存储在一个物理设备上。另一个好处是块可以存储在多个节点上，防止某个设备因为故障而丢失数据。
2、namenode和datanode

HDFS集群有两种节点，分别是namenode和datanode。以管理节点——工作节点方式对外提供服务，即client连接namenode，一个namenode节点负责管理多个datanode。
namenode负责管理文件系统的命名空间，它维护文件系统元数据信息，例如目录和文件名称。这些信息以文件的形式永久保存在硬盘上：分别是命令空间镜像文件和编辑日志文件。namenode也记录每个文件的块所在的数据节点信息，但它并不永久保存块的位置，这些信息会在启动的时候根据数据节点的数据重建。
datanode就是文件系统的工作节点。它们根据需要存储数据块信息，并且定期向namenode发送所存储的块列表。HDFS通过把数据块冗余到多个datanode实现数据的安全性，默认副本数量为3。
namenode对外提供服务的时候需要把所有的文件元数据加载到内存，重启的时候会利用镜像文件和编辑日志重建数据，镜像文件类似于Redis的rdb文件。namenode会周期性归档编辑日志来生成一个更加新的镜像文件，由于归档编辑日志的时候namenode也会对外提供服务，这段时间的操作会写入到编辑日志中，所以namenode需要镜像文件和编辑日志一起重建文件元数据。一个大规模的HDFS的恢复是非常消耗时间的（取决于所管理的数据规模），由于namenode是管理节点，没有namenode整个文件系统将无法使用，所以相对datanode，namenode的高可用非常重要。本节主要为对HDFS简单介绍，故先不讨论HDFS的高可用方案。
3、联邦HDFS

由于namenode在内存中维护系统内文件和数据块的关系，很明显namenode运行机器的内存会限制整个集群能存储的文件数量。Hadoop在2.x版本引入的联邦namenode，在联邦环境下，每个namenode管理一个命名空间的一部分。例如一个namenode管理/a目录下的所有文件，另一个namenode管理/b目录下的所有文件。在联邦环境下，每个namenode是独立的，其中一个namenode失效了也不会影响其他namenode。
三、hadoop命令行

Hadoop命令行的fs参数提供了一些方便访问文件系统的操作，所有的参数和格式可以在官网文档FileSystemShell中查询到，这里简单列举一些常用的操作。
-cat：读取文件，并且输出到标准输出

格式：hadoop fs -cat [-ignoreCrc] URI [URI ...]
例如：
-ls：列出路径下的文件内容

格式：hadoop fs -ls URI
例如：
输出每一列含义为：权限，副本数，所属用户，所属用户组，文件大小，修改时间，文件名。权限字段由有7个标识位，第一个标识位含义是文件类型，如果是目录则为d，然后紧跟的6个标识位表示所属用户、所属用户组、其他用户的是否可读、可写、可执行，可执行权限可以忽略，因为不能在HDFS中执行。第二列为副本数，目录的元数据保存在namenode上，所以没有副本数。
示例输入如下：
  1. hadoop fs -ls hdfs://192.168.73.130:8082/
  2. Found 2 items
  3. -rw-r--r--   3 debian supergroup  19481 2023-01-25 15:30 hdfs://192.168.73.130:8082/a.txt
  4. drwxr-xr-x   - debian supergroup      0 2023-01-28 09:08 hdfs://192.168.73.130:8082/test
复制代码
-copyFromLocal：复制本地文件到HDFS

格式：hadoop fs -copyFromLocal localsrc URI
例如：
-copyToLocal：复制HDFS文件到本地

格式：hadoop fs -copyToLocal URI localsrc
例如：
四、FileSystem常用api

1、文件的读取

使用方法FileSystem#open()可以打开一个FSDataInputStream输入流，然后可以像读取本地文件一样文件中的数据。但是与一般的输入流不一样，FSDataInputStream实现了Seekable和接口PositionedReadable，它们分别支持随机读取和指定位置读取。
Seekable的声明如下：
  1. public interface Seekable {
  2.   /**
  3.    * 设置下一次读取的时，使用的偏移量
  4.    */
  5.   void seek(long pos) throws IOException;
  6.   
  7.   /**
  8.    * 返回当前读取偏移量
  9.    */
  10.   long getPos() throws IOException;
  11. }
复制代码
getPos返回当前读取偏移量，seek设置下一次read的偏移量，偏移量是当前距离文件起始位置的字节数。例如可以用如下代码重复读取文件开头的2048个字节；
  1. FSDataInputStream in = .....;
  2. byte[] buff = new buff[2048];
  3. in.read(buff);
  4. in.seek(0);
  5. in.read(buff);
复制代码
seek使用起来很方便，但是是一个相对高开销的操作，需要慎重使用。
PositionedReadable的声明如下：
  1. public interface PositionedReadable {
  2.   /**
  3.    * 从position指定的位置开始读取length个长度的数据，复制到buffer的offset处，返回实际读取到的字节数
  4.    */
  5.   int read(long position, byte[] buffer, int offset, int length)
  6.     throws IOException;
  7.   
  8.   /**
  9.    * 从position指定的位置开始读取length个长度的数据，复制到buffer的offset处
  10.    * 如果到达文件结尾抛出EOFException
  11.    */
  12.   void readFully(long position, byte[] buffer, int offset, int length) throws IOException;
  13.   
  14.    /**
  15.    * 从position指定的位置开始读取buffer.length个长度的数据，复制到buffer的offset处
  16.    * 如果到达文件结尾抛出EOFException
  17.    */
  18.   void readFully(long position, byte[] buffer) throws IOException;
  19. }
复制代码
read函数把指定偏移量数据读取到buffer中，但是实际读取的字节数需要调用者接受返回值进行判断。readFully效果也类似，但是如果到达文件结尾会抛出EOFException。PositionedReadable所有的方法都不会改变当前流读取文件的位置，同时它的方法也都是线程安全的。
2、文件的写入

传入一个Path对象，然后使用FileSystem#create可以创建一个新文件，并且返回一个FSDataOutputStream对象。与java其他的api不一样，调用create方法会自动创建父级目录。
使用FileSystem#append()可以向一个已存在的文件尾追加内容，需要说明的是这个方法是一个可选的实现，并不是每一个文件系统都正常此方法。
3、目录创建

调用FileSystem#mkdirs()方法可以新建一个目录，通常创建文件不需要显示调用此方法，因为创建文件会自动创建对应的父级目录。
4、文件的删除

调用FileSystem#delete()可以删除一个文件或者目录。
5、文件元数据信息

使用FileSystem#getFileStatus方法可以返回一个FileStatus对象来获取文件或者目录的的状态信息，例如是否为目录、权限、文件长度等数据。
FileSystem#listStatus可以列出目录下所有的文件信息。listStatus有多个重载方法，可以额外传入一个org.apache.hadoop.fs.PathFilter用来过滤目录的文件。
6、HDFS的一致性模型

对于创建一个目录，HDFS可以保证操作是立即可见的。但是对于写入数据并不能保证其可见性。例如对于以下一段Java程序代码：
  1. OutputStream out = ...;
  2. out.write(buff);
  3. out.flush();
复制代码
如果是操作本地文件，调用flush方法，会把缓冲区数据刷新到硬盘上，保证其可见性。然而对于HDFS，即使调用了flush方法也不能保证可见性，需要等到数据超过一个块之后才能对其他读取进程可见。但是HDFS的实现提供了两个方法用于保证可见性，分别是FSDataOutputStream#hflush和FSDataOutputStream#hsync，hsync和操作系统的sync方法类似，保证数据已经存储在datanode的硬盘上，而hflush仅仅保证数据写入到datanode的内存。调用close关闭流会自动调用一次hflush。
五、demo程序

我使用FileSystem常用api实现了一个客户端demo，代码地址在github 的hdfsApiExample模块，打包此模块可以得到一个hdfs-api-example-1.0-SNAPSHOT.jar的文件，它的使用方法如下：
参数：
示例：

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！



欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/) Powered by Discuz! X3.4