hadoop伪分布式集群的安装（不是单机版）

准备工作

三台虚拟机，关闭防火墙，关闭selinux
查看防火状态 systemctl status firewalld
暂时关闭防火墙 systemctl stop firewalld
永久关闭防火墙 systemctl disable firewalld
查看 selinux状态 getenforce
暂时关闭 selinux setenforce 0
永久关闭 selinux 在/etc/selinux/config文件中将SELINUX改为disabled
 
修改主机名称

三台主机

1. hostnamectl set-hostname master
2. hostnamectl set-hostname slave1
3. hostnamectl set-hostname slave2<br><br>使用bash命令刷新生效

复制代码

在/etc/hosts文件中添加ip映射

1. IP+主机名称

复制代码

根据自己需求修改，这里给出模板

 
 
 

配置ssh免密登录

 

1. ssh-keygten -t rsa   #生成密钥
3. ssh-copy-id master  #分发给其他节点，分发给自己主要是为了之后群集集群不需要输入密码
4. ssh-copy-id slave1
5. ssh-copy-id slave2

复制代码

安装JAVA和HADOOP

解压JAVA

 
 解压HADOOP

 
 修改名称为jdk与hadoop

 
 配置环境变量

 
 
 刷新环境变量，使生效

1. source /etc/profile

复制代码

使用javac  与hadoop verison验证是否安装成功
配置hadoop文件

core-site.xml文件

1. [/code]
3. fs.defaultFS
4.     hdfs://hadoop:9000
6. [code]

复制代码

        hadoop.tmp.dir
        /usr/local/src/hadoop-2.7.2/data/tmp

1.  

复制代码

hdfs-site.xml

1. [/code]
2. dfs.replication
3.    1
6.    dfs.namenode.name.dir
7.    file:/home/hadoop/hadoop-2.6.0/hdfs/name
8.    true
11.    dfs.datanode.data.dir
12.    file:/home/hadoop/hadoop-2.6.0/hdfs/data
13.    true
16.   dfs.namenode.secondary.http-address
17.    master:9001
20.    dfs.webhdfs.enabled
21.    true
24.    dfs.permissions
25.    false
27. [code] 

复制代码

yarn.site.xml

1. [/code]
2. yarn.resourcemanager.address
3.    master:18040
6.    yarn.resourcemanager.scheduler.address
7.    master:18030
10.    yarn.resourcemanager.webapp.address
11.    master:18088
14.    yarn.resourcemanager.resource-tracker.address
15.    master:18025
18.    yarn.resourcemanager.admin.address
19.    master:18141
22.     yarn.nodemanager.aux-services
23.     mapreduce_shuffle
26.      yarn.nodemanager.auxservices.mapreduce.shuffle.class
27.      org.apache.hadoop.mapred.ShuffleHandler
29. [code] 

复制代码

mapred-site.xml

    mapreduce.framework.name
    yarn

在hadoop-env.sh yarn-env.sh  mapred-env.sh中配置java环境


 
 这里给出hadoop-env.sh 其他相同
配置slave

写入三台主机的主机名

 
 将配置好的hadoop分发给其他主机

1. [root@master ~]# scp -r /usr/local/src/hadoop/ root@slave1:/usr/local/src/
3. [root@master ~]# scp -r /usr/local/src/hadoop/ root@slave2:/usr/local/src/

复制代码

格式化namenode

1. hdfs namenode -format

复制代码

启动dfs

1. start-dfs.sh

复制代码

启动yarn

1. start-yarn.sh

复制代码

使用jps查看
master节点：ResourceManager，DataNode，SecondaryNameNode，NameNode，NodeManager
slave1节点与slave2节点：NodeManager，DataNode
集群全部启动则为启动成功
进入web页面验证
namenode  web页面 = IP+50070
yarn  web页面 =IP 8088
 

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！