论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
朋友圈
看朋友圈动态,了解ToB世界。
ToB门户
了解全球最新的ToB事件
博客
Blog
排行榜
Ranklist
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
导读
Guide
相册
Album
记录
Doing
搜索
本版
文章
帖子
ToB圈子
用户
免费入驻
产品入驻
解决方案入驻
公司入驻
案例入驻
登录
·
注册
只需一步,快速开始
账号登录
立即注册
找回密码
用户名
Email
自动登录
找回密码
密码
登录
立即注册
首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
圈子
SAAS
IT评测·应用市场-qidao123.com
»
论坛
›
大数据
›
数据仓库与分析
›
ubuntu安装hodoop详细步骤_ubuntu安装hadoop,2年以上履 ...
ubuntu安装hodoop详细步骤_ubuntu安装hadoop,2年以上履历必看 ...
美丽的神话
金牌会员
|
2024-7-20 02:33:57
|
显示全部楼层
|
阅读模式
楼主
主题
904
|
帖子
904
|
积分
2712
先自我先容一下,小编浙江大学毕业,去过华为、字节跳动等大厂,现在阿里P7
深知大多数步伐员,想要提升技能,往往是本身摸索成长,但本身不成体系的自学效果低效又漫长,而且极易碰到天花板技能停滞不前!
因此网络整理了一份《2024年最新大数据全套学习资料》,初衷也很简朴,就是盼望能够帮助到想自学提升又不知道该从何学起的朋侪。
既有适合小白学习的零底子资料,也有适合3年以上履历的小同伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!
由于文件比较多,这里只是将部门目次截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、解说视频,并且后续会连续更新
如果你须要这些资料,可以添加V获取:vip204888 (备注大数据)
正文
source ~/.bashrc
复制代码
五,安装hadoop
打开Ubuntu的火狐欣赏,输入hadoop下载链接,下载hadoopApache Hadoop
https://hadoop.apache.org/release/3.3.6.html
点击这个链接直接下载
下载完成之后一般会在/home/hadoop/下载 目次下,直接解压出来到/usr/local目次下。
sudo tar -zxf /home/hadoop/下载/hadoop-3.3.6.tar.gz -C /usr/local
复制代码
将目次名改为hadoop
sudo mv /usr/local/hadoop-3.3.6/ /usr/local/hadoop
复制代码
修改目次权限
sudo chown -R hadoop /usr/local/hadoop
复制代码
查看hadoop版本信息
cd /usr/local/hadoop
./bin/hadoop version
复制代码
现在可以运行Grep实例来检测一下hadoop是否安装乐成。
起首新建input目次
mkdir input
复制代码
将配置文件复制到input目次下
cp ./etc/hadoop/*.xml ./input
复制代码
接下来运行代码grep实例
./bin/hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar grep ./input ./output 'dfs[a-z.]+'
复制代码
最后执行以下命令查看输出数据
cat ./output/*
复制代码
六,hadoop伪分布式安装
这里须要修改两个文件,先修改core-site.xml 文件
vim ./etc/hadoop/core-site.xml
复制代码
将下面这些代码添加到中央,然后生存退出
<property>
<name>hadoop.tmp.dir</name>
<value>file:/usr/local/hadoop/tmp</value>
<description>Abase for othertemporary directories.</description>
</property>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
复制代码
修改配置hdfs-site.xml文件
vim ./etc/hadoop/hdfs-site.xml
复制代码
同样将下面这些代码添加到中央,然后生存退出
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/usr/local/hadoop/tmp/dfs/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/usr/local/hadoop/tmp/dfs/data</value>
</property>
复制代码
完成之后执行初始化命令
./bin/hdfs namenode -format
复制代码
文件系统初始化乐成后,启动HDFS
./sbin/start-dfs.sh
复制代码
启动之后,可以输入jps
查看全部的java进程
jps
复制代码
此时可以访问web页面,输入http://localhost:9870 查看hadoop信息
接下来在HDFS中创建hadoop用户
./bin/hdfs dfs -mkdir -p /user/hadoop
复制代码
然后在HDFS的‘/user/hadoop’目次下创建input目次
./bin/hdfs dfs -mkdir input
复制代码
须要将本地配置文件上传到hdfs中的‘/user/input/input’下
./bin/hdfs dfs -put ./etc/hadoop/*.xml input
复制代码
然后执行测试的grep
./bin/hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar grep ./input ./output 'dfs[a-z.]+'
复制代码
可以输入如下命令查看结果
./bin/hdfs dfs -cat output/*
复制代码
运行之后,得到如下结果
到这里就完成了。
当重新运行步伐时,要删除hdfs中的output目次,然后运行步伐。删除指令如下
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技能提升。
须要这份系统化的资料的朋侪,可以添加V获取:vip204888 (备注大数据)
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感爱好的新人,都欢迎加入我们的的圈子(技能交流、学习资源、职场吐槽、大厂内推、口试辅导),让我们一起学习成长!
然后运行步伐。删除指令如下
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技能提升。
须要这份系统化的资料的朋侪,可以添加V获取:vip204888 (备注大数据)
[外链图片转存中…(img-KTGbEmzZ-1713328224544)]
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感爱好的新人,都欢迎加入我们的的圈子(技能交流、学习资源、职场吐槽、大厂内推、口试辅导),让我们一起学习成长!
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
回复
使用道具
举报
0 个回复
倒序浏览
返回列表
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
or
立即注册
本版积分规则
发表回复
回帖并转播
回帖后跳转到最后一页
发新帖
回复
美丽的神话
金牌会员
这个人很懒什么都没写!
楼主热帖
Python 实现贪心算法
Spark快速上手(3)Spark核心编程-RDD转 ...
GIS前沿技术
什么是超融合数据中心网络? ...
java中Files.mismatch方法具有什么功能 ...
哈工大软件构造Lab3(2022)
Kubernetes——Pod对象的声明周期(Pod ...
Python自动操作 GUI 神器——PyAutoGUI ...
C# net core 微信公众号导出历史文章 ...
微服务介绍
标签云
存储
服务器
快速回复
返回顶部
返回列表