ToB企服应用市场:ToB评测及商务社交产业平台
标题:
hadoop伪分布式集群的安装(不是单机版)
[打印本页]
作者:
曂沅仴駦
时间:
2023-4-15 08:08
标题:
hadoop伪分布式集群的安装(不是单机版)
准备工作
三台虚拟机,关闭防火墙,关闭selinux
查看防火状态
systemctl status firewalld
暂时关闭防火墙
systemctl stop firewalld
永久关闭防火墙
systemctl disable firewalld
查看 selinux状态
getenforce
暂时关闭 selinux
setenforce 0
永久关闭 selinux 在/etc/selinux/config文件中将SELINUX改为disabled
修改主机名称
三台主机
hostnamectl set-hostname master
hostnamectl set-hostname slave1
hostnamectl set-hostname slave2<br><br>使用bash命令刷新生效
复制代码
在/etc/hosts文件中添加ip映射
IP+主机名称
复制代码
根据自己需求修改,这里给出模板
配置ssh免密登录
ssh-keygten -t rsa #生成密钥
ssh-copy-id master #分发给其他节点,分发给自己主要是为了之后群集集群不需要输入密码
ssh-copy-id slave1
ssh-copy-id slave2
复制代码
安装JAVA和HADOOP
解压JAVA
解压HADOOP
修改名称为jdk与hadoop
配置环境变量
刷新环境变量,使生效
source /etc/profile
复制代码
使用javac 与hadoop verison验证是否安装成功
配置hadoop文件
core-site.xml文件
[/code]
fs.defaultFS
hdfs://hadoop:9000
[code]
复制代码
hadoop.tmp.dir
/usr/local/src/hadoop-2.7.2/data/tmp
复制代码
hdfs-site.xml
[/code]
dfs.replication
1
dfs.namenode.name.dir
file:/home/hadoop/hadoop-2.6.0/hdfs/name
true
dfs.datanode.data.dir
file:/home/hadoop/hadoop-2.6.0/hdfs/data
true
dfs.namenode.secondary.http-address
master:9001
dfs.webhdfs.enabled
true
dfs.permissions
false
[code]
复制代码
yarn.site.xml
[/code]
yarn.resourcemanager.address
master:18040
yarn.resourcemanager.scheduler.address
master:18030
yarn.resourcemanager.webapp.address
master:18088
yarn.resourcemanager.resource-tracker.address
master:18025
yarn.resourcemanager.admin.address
master:18141
yarn.nodemanager.aux-services
mapreduce_shuffle
yarn.nodemanager.auxservices.mapreduce.shuffle.class
org.apache.hadoop.mapred.ShuffleHandler
[code]
复制代码
mapred-site.xml
mapreduce.framework.name
yarn
在hadoop-env.sh yarn-env.sh mapred-env.sh中配置java环境
这里给出hadoop-env.sh 其他相同
配置slave
写入三台主机的主机名
将配置好的hadoop分发给其他主机
[root@master ~]# scp -r /usr/local/src/hadoop/ root@slave1:/usr/local/src/
[root@master ~]# scp -r /usr/local/src/hadoop/ root@slave2:/usr/local/src/
复制代码
格式化namenode
hdfs namenode -format
复制代码
启动dfs
start-dfs.sh
复制代码
启动yarn
start-yarn.sh
复制代码
使用jps查看
master节点:ResourceManager,DataNode,SecondaryNameNode,NameNode,NodeManager
slave1节点与slave2节点:NodeManager,DataNode
集群全部启动则为启动成功
进入web页面验证
namenode web页面 = IP+50070
yarn web页面 =IP 8088
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!
欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/)
Powered by Discuz! X3.4