ToB企服应用市场:ToB评测及商务社交产业平台

标题: 物联网架构之Hadoop(分布式文件系统与企业级应用) [打印本页]

作者: 半亩花草    时间: 2024-8-22 13:16
标题: 物联网架构之Hadoop(分布式文件系统与企业级应用)










存储;运算;管理;















HaDoop软件包;


将软件包拉取到三个节点;


关闭防火墙及内核安全机制;


然后修改三个节点的主机名;分别是node1、2、3;


再修改hosts文件,方便用主机名进行剖析;



如果考虑要扩展节点,那么要在该文件中写入新添加节点的主机名和IP地址;

创建运行hadoop时所需的账户及组;


为该用户设置暗码,方便后续以该用户的身份实行程序;


然后对该用户进行单独设置权限;



然后再把java情况拉入到三个主机;



然后安装该软件包;


默认会安装到该路径下;


然后添加全局变量文件;

使得系统可以或许识别到jdk的情况;



重载一下文件,并测试;


以hsuser的身份登录进去,然后天生免密登录的密钥对;

仅在101主机上实行即可;

保持默认到最后即可;


然后拷贝到其他节点;


将hadoop的安装包,拷贝到hduser的家目次,并切换到该用户下进行解压;


将hadoop的下令追加到全局变量文件中;




另外两个节点以同样的方式写入即可;

然后检察hadoop的设置文件,起首以hduser的身份登录进入到解压目次下的etc;


该文件中写的是从节点(DataNode)的主机名;

如果要扩展的话,这个文件也是必改项;


下一个;


写入描黑的语句;管理主机的主机名及端口,和缓存目次的路径等信息;



输入一下描黑的信息;


然后将描黑的模版文件拷贝成可以使用的文件;



这个文件中定义的是yarn组件的信息;



该文件中定义yarn的历程要运行在哪个节点上;


然后以scp的方式拷贝给其他节点的相同位置下;



将hadoop进行一个初始化,进入到解压目次下的bin下;


然后启动hadoop;


然后验证一下;

正产情况下是要显示三行的内容的;


启动yarn组件;


检察报告内容;



hadoop为用户提供了web管理界面,再次验证;

注意指定端口:50070;



然后对hadoop进行性能测试;

创建一个测试用的目次,然后在天生测试文件;


然后进入到解压目次,将所有的组件都启动起来;


用该语句创建目次;

注意该目次没有创建在本机,是创建另外的一个存储区域、(hdfs);


然后再将创建的测试文件上传到该目次下;


然后可以检察该目次下的文件;


要求可以或许看到文件的内容;


使用以下语句进行字符统计;




免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。




欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/) Powered by Discuz! X3.4