论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
朋友圈
看朋友圈动态,了解ToB世界。
ToB门户
了解全球最新的ToB事件
博客
Blog
排行榜
Ranklist
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
导读
Guide
相册
Album
记录
Doing
搜索
本版
文章
帖子
ToB圈子
用户
免费入驻
产品入驻
解决方案入驻
公司入驻
案例入驻
登录
·
注册
只需一步,快速开始
账号登录
立即注册
找回密码
用户名
Email
自动登录
找回密码
密码
登录
立即注册
首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
圈子
SAAS
ToB企服应用市场:ToB评测及商务社交产业平台
»
论坛
›
大数据
›
数据仓库与分析
›
ubuntu安装hodoop详细步骤_ubuntu安装hadoop,大数据开 ...
ubuntu安装hodoop详细步骤_ubuntu安装hadoop,大数据开发工程师必备知识 ...
悠扬随风
金牌会员
|
2024-7-21 21:14:08
|
显示全部楼层
|
阅读模式
楼主
主题
659
|
帖子
659
|
积分
1977
先自我介绍一下,小编浙江大学毕业,去过华为、字节跳动等大厂,目前阿里P7
深知大多数程序员,想要提拔技能,每每是自己摸索成长,但自己不成体系的自学结果低效又漫长,而且极易遇到天花板技能故步自封!
因此收集整理了一份《2024年最新大数据全套学习资料》,初志也很简朴,就是盼望可以或许资助到想自学提拔又不知道该从何学起的朋侪。
既有适合小白学习的零底子资料,也有适合3年以上经验的小搭档深入学习提拔的进阶课程,涵盖了95%以上大数据知识点,真正体系化!
由于文件比较多,这里只是将部分目次截图出来,全套包含大厂面经、学习笔记、源码课本、实战项目、大纲蹊径、讲解视频,而且后续会持续更新
假如你需要这些资料,可以添加V获取:vip204888 (备注大数据)
正文
二,更新apt和安装vim编辑器
登录到Hadoop用户之后,我们需要更新一下apt,确保可以安装一些软件。
sudo apt-get update
复制代码
完成之后直接安装vim文本编辑器
sudo apt-get install vim -y
复制代码
三,安装设置ssh
输入下令直接下载ssh
sudo apt-get install openssh-server -y
复制代码
完成之后登录本机
ssh localhost
复制代码
出现提示后输入‘yes’,然后输入密码就可以登录到本机了。我们需要将ssh设置成无密码的,输入下令exit退出,然后利用ssh-keygen天生密钥( 遇到提示一直按回车),并将密钥加入授权。详细下令如下。
cd ~/.ssh/
ssh-keygen -t rsa
cat ./id_rsa.pub >> ./authorized_keys
复制代码
之后输入ssh localhost
就可以直接登录了。
四,安装java环境
利用下令直接下载java
sudo apt-get install openjdk-8-jdk -y
复制代码
检察是否安装乐成
java -version
复制代码
有这个界面就分析安装乐成。
然后举行设置java环境变量,利用vim打开设置文件
vim ~/.bashrc
复制代码
进去之后输入i,进入输入模式,在第一行添加如下内容
export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64
复制代码
然后按esc,再输入shift+:进入到末行模式,输入wq保存退出。
继承实行如下下令让.bashrc文件生效
source ~/.bashrc
复制代码
五,安装hadoop
打开Ubuntu的火狐欣赏,输入hadoop下载链接,下载hadoopApache Hadoop
https://hadoop.apache.org/release/3.3.6.html
点击这个链接直接下载
下载完成之后一般会在/home/hadoop/下载 目次下,直接解压出来到/usr/local目次下。
sudo tar -zxf /home/hadoop/下载/hadoop-3.3.6.tar.gz -C /usr/local
复制代码
将目次名改为hadoop
sudo mv /usr/local/hadoop-3.3.6/ /usr/local/hadoop
复制代码
修改目次权限
sudo chown -R hadoop /usr/local/hadoop
复制代码
检察hadoop版本信息
cd /usr/local/hadoop
./bin/hadoop version
复制代码
现在可以运行Grep实例来检测一下hadoop是否安装乐成。
起首新建input目次
mkdir input
复制代码
将设置文件复制到input目次下
cp ./etc/hadoop/*.xml ./input
复制代码
接下来运行代码grep实例
./bin/hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar grep ./input ./output 'dfs[a-z.]+'
复制代码
末了实行以下下令检察输出数据
cat ./output/*
复制代码
六,hadoop伪分布式安装
这里需要修改两个文件,先修改core-site.xml 文件
vim ./etc/hadoop/core-site.xml
复制代码
将下面这些代码添加到中心,然后保存退出
<property>
<name>hadoop.tmp.dir</name>
<value>file:/usr/local/hadoop/tmp</value>
<description>Abase for othertemporary directories.</description>
</property>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
复制代码
修改设置hdfs-site.xml文件
vim ./etc/hadoop/hdfs-site.xml
复制代码
同样将下面这些代码添加到中心,然后保存退出
<property>
**网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。**
**需要这份系统化的资料的朋友,可以添加V获取:vip204888 (备注大数据)**
![img](https://img-blog.csdnimg.cn/img_convert/a3ed30bf8bc3c354b10b2b8966d3faa8.png)
**一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**
复制代码
<property>
复制代码
网上学习资料一大堆,但假如学到的知识不成体系,遇到题目时只是浅尝辄止,不再深入研究,那么很难做到真正的技能提拔。
需要这份系统化的资料的朋侪,可以添加V获取:vip204888 (备注大数据)
[外链图片转存中…(img-g2cOJReZ-1713156344978)]
一个人可以走的很快,但一群人才能走的更远!岂论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技能交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
回复
使用道具
举报
0 个回复
倒序浏览
返回列表
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
or
立即注册
本版积分规则
发表回复
回帖并转播
回帖后跳转到最后一页
发新帖
回复
悠扬随风
金牌会员
这个人很懒什么都没写!
楼主热帖
IDEA: 如何导入项目模块 以及 将 Java ...
命题逻辑等值演算
【Web前端】HTML详解(上篇)
(8) PyQt 设计并实现【工厂扫码装箱系 ...
互联网官方协议标准(rfc5000) ...
Java Long类parseLong()方法具有什么功 ...
详解kubernetes五种暴露服务的方式 ...
王心凌再次爆火,为了防止收费,我连夜 ...
文盘Rust -- 把程序作为守护进程启动 ...
Java基础---数据类型
标签云
挺好的
服务器
浏览过的版块
DevOps与敏捷开发
快速回复
返回顶部
返回列表